IT > IT

[유튜브공화국③] "날 닮은 넌 누구?" 딥페이크 영상…선거 경고등

등록 2024-02-12 12:10:00 최종수정 2024-02-13 13:49:59

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	[유튜브공화국③] "날 닮은 넌 누구?" 딥페이크 영상…선거 경고등 [서울=뉴시스] 오동현 기자 = "화요일에 투표를 하면 공화당이 도널드 트럼프를 다시 대선 후보로 선출하도록 돕는 것이다." 딥페이크 기술을 이용한 조 바이든 미국 대통령의 가짜 음성 메시지가 미 대선 경선이 열리는 뉴햄프셔주 유권자들에게 전달됐다. 생성형 인공지능(AI) 기술을 활용한 딥페이크 도구의 선거 악용 우려가 다시 한번 부각된 사건이다. 미국 NBC 방송이 공개한 28초 분량의 전화 음성에 따르면 바이든 대통령이 즐겨 사용하는 "말도 안 되는 소리(What a bunch of malarkey)"라는 문구가 담겨 있어 모두를 감쪽같이 속였다. 또 "투표는 이번 화요일이 아니라 11월에 해야 변화를 만들 수 있다"며 유권자들을 혼란스럽게 했다. 미국 대선이 딥페이크와의 전쟁이 될 수도 있다는 우려가 나오는 이유다. 남의 나라 일이 아니다. 4월 제22대 국회의원 선거를 앞둔 우리나라 역시 딥페이크 위험성에 대한 경각심이 높아지고 있다. 진짜인지 가짜인지 구분하기 어려운 딥페이크가 정치 선거의 판도를 뒤흔들 잠재적인 위험 요소로 떠오른 것이다. [[[[:newsis_bold_start:]]]]◆'진짜같은 가짜' 딥페이크 영상[[[[:newsis_bold_end:]]]] 딥페이크 기술은 AI 기반으로 조작된 영상을 만들어 사실 같이 보이게 하는 기술이다. 시각, 이미지, 음성에 알고리즘을 적용해 식별하기 어려운 가짜 미디어 콘텐츠를 생성한다. 악용될 경우 유명인의 얼굴과 목소리로 허위정보를 퍼뜨려 부당한 이득을 취하거나, 불법적인 음란 콘텐츠를 만드는 등 사회를 혼란에 빠뜨릴 수 있다. 딥페이크 영상이 나돈 건 오래 전부터다. 수년 전부터 유튜브를 통해 배포되는 영상 중에는 딥페이크라 부르기 민망할 정도로 어설픈 가짜 영상들이 자주 보였다. 일론 머스크 테슬라 CEO의 얼굴과 목소리를 따라해 장난스럽게 노래를 부르는 영상은 지금도 유명하다. 그러나 최근의 딥페이크 기술은 놀라울 정도로 발전하며 실제와 분간이 어려운 수준이 됐다. 지난 2022년에는 러시아와 전쟁을 겪고 있는 우크라이나의 젤린스키 대통령이 등장하는 가짜 영상이 공개돼 전 세계인을 놀라게 했다. 딥페이크 콘텐츠는 생성적 적대 신경망(GAN)이라는 AI 모델을 활용해 만들어진다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화학습 방식의 AI 기술이다. 그럴듯한 가짜 이미지를 생성(Generative)하고, 생성 및 감별 기능의 두 개 모델을 서로 적대적(Adversarial)으로 경쟁·학습시킨 인공신경망(Network)을 뜻한다. 소프트웨어정책연구소의 안성원AI 정책연구실장은 "원래 GAN은 영상이나 이미지를 정교하게 편집하거나, 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용하기 위해 개발됐다"며 "그러나 정치·사회적으로 테러 및 가짜 뉴스 등에 악용하는 사례가 점차 증가하고 있는 것이 현실"이라고 지적했다. 안 실장이 작성한 '인공지능의 악용 사례, 딥페이크 기술과 과제' 보고서에 따르면 최근엔 GAN을 활용해 AI가 사람의 피부뿐 아니라 머리카락까지 실제와 비슷한 이미지를 생성하는 수준에 이르러, 기술적 한계를 이미 뛰어넘은 것으로 판단되고 있다. 미국 UC버클리대와 영국 랭커스터대 공동연구팀은 실제 얼굴과 AI가 합성한 얼굴을 구별하는 실험을 통해 사람들이 AI가 합성한 가짜를 구별하지 못하며 오히려 가짜를 더 신뢰한다는 결과를 도출했다. 223명의 실험 참가자를 대상으로, 실제 사람 얼굴 사진과 AI가 합성한 얼굴 사진이 섞인 800장의 세트에서 무작위로 128장을 뽑아 신뢰도에 따라 1~7점 척도의 점수를 부여하게 한 결과, 합성 얼굴에 대한 평균 신뢰도(4.82)가 실제 얼굴 평균 신뢰도(4.48)보다 높게 나타났다. 또한 신뢰도 상위 4개의 얼굴 중 3개는 합성 얼굴이며, 신뢰도 하위 4개 얼굴은 모두 실제 얼굴이었다. 이런 가운데 최근에는 모바일 앱으로 누구나 쉽게 딥페이크 영상 제작이 가능해져 범죄 악용 우려가 커지고 있다. 구글·애플 앱스토어에서 ‘딥페이크'라는 검색어만 입력하면 관련 앱이 쏟아진다. 이미 전 세계에서 1억 명 이상이 다운로드한 '리페이스' 앱은 일주일에 6500원이면 워터마크 없는 딥페이크 이미지를 뚝딱 생성해준다. 실제로 인스타그램, 페이스북, 유튜브에는 딥페이크 기술로 제작된 영상이 넘쳐난다. 방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 지난해 1월부터 11월까지 5996건으로 집계됐다. 2020년 473건, 2021년 1913건, 2022년 3574건으로 해를 거듭할 수록 증가하는 추세다. [[[[:newsis_bold_start:]]]]◆4월 총선 '딥페이크' 영상 잡는다…정부·업계 총력[[[[:newsis_bold_end:]]]] 4월 총선을 앞둔 우리나라도 딥페이크 영상으로 비상이다. 총선 기간에 각 시·도경찰청 사이버수사대가 딥페이크와 관련한 선거범죄를 직접 수사한다. 중앙선거관리위원회(선관위) 등이 불법 선거운동을 목적으로 제작된 딥페이크를 적발해 고발하는 사건 등이 주요 수사 대상이다. 선관위 자체적으로도 딥페이크 작업물을 찾아내기 위해 유튜브, 포털 사이트, 트위터, 페이스북 등을 모니터링하고 있다. 정부와 IT 기업들도 딥페이크에 대한 대응책을 마련하고 있다. 이미 정부는 2020년 ‘AI 학습용 데이터 구축 사업'의 세부 과제[ 중 하나로 '딥페이크 방지 영상 AI 데이터'를 선정하고 연구를 진행해왔다. 최근에는 과학기술정보통신부가 AI 생성물에 대한 워터마크 표시 의무화 전까지 업계에 자발적인 대응을 권고한 상황이다. 이에 네이버는 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화했다. 또 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다. ◎공감언론 뉴시스 [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

[유튜브공화국③] "날 닮은 넌 누구?" 딥페이크 영상…선거 경고등 [서울=뉴시스] 오동현 기자 = "화요일에 투표를 하면 공화당이 도널드 트럼프를 다시 대선 후보로 선출하도록 돕는 것이다." 딥페이크 기술을 이용한 조 바이든 미국 대통령의 가짜 음성 메시지가 미 대선 경선이 열리는 뉴햄프셔주 유권자들에게 전달됐다. 생성형 인공지능(AI) 기술을 활용한 딥페이크 도구의 선거 악용 우려가 다시 한번 부각된 사건이다. 미국 NBC 방송이 공개한 28초 분량의 전화 음성에 따르면 바이든 대통령이 즐겨 사용하는 "말도 안 되는 소리(What a bunch of malarkey)"라는 문구가 담겨 있어 모두를 감쪽같이 속였다. 또 "투표는 이번 화요일이 아니라 11월에 해야 변화를 만들 수 있다"며 유권자들을 혼란스럽게 했다. 미국 대선이 딥페이크와의 전쟁이 될 수도 있다는 우려가 나오는 이유다. 남의 나라 일이 아니다. 4월 제22대 국회의원 선거를 앞둔 우리나라 역시 딥페이크 위험성에 대한 경각심이 높아지고 있다. 진짜인지 가짜인지 구분하기 어려운 딥페이크가 정치 선거의 판도를 뒤흔들 잠재적인 위험 요소로 떠오른 것이다. [[[[:newsis_bold_start:]]]]◆'진짜같은 가짜' 딥페이크 영상[[[[:newsis_bold_end:]]]] 딥페이크 기술은 AI 기반으로 조작된 영상을 만들어 사실 같이 보이게 하는 기술이다. 시각, 이미지, 음성에 알고리즘을 적용해 식별하기 어려운 가짜 미디어 콘텐츠를 생성한다. 악용될 경우 유명인의 얼굴과 목소리로 허위정보를 퍼뜨려 부당한 이득을 취하거나, 불법적인 음란 콘텐츠를 만드는 등 사회를 혼란에 빠뜨릴 수 있다. 딥페이크 영상이 나돈 건 오래 전부터다. 수년 전부터 유튜브를 통해 배포되는 영상 중에는 딥페이크라 부르기 민망할 정도로 어설픈 가짜 영상들이 자주 보였다. 일론 머스크 테슬라 CEO의 얼굴과 목소리를 따라해 장난스럽게 노래를 부르는 영상은 지금도 유명하다. 그러나 최근의 딥페이크 기술은 놀라울 정도로 발전하며 실제와 분간이 어려운 수준이 됐다. 지난 2022년에는 러시아와 전쟁을 겪고 있는 우크라이나의 젤린스키 대통령이 등장하는 가짜 영상이 공개돼 전 세계인을 놀라게 했다. 딥페이크 콘텐츠는 생성적 적대 신경망(GAN)이라는 AI 모델을 활용해 만들어진다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화학습 방식의 AI 기술이다. 그럴듯한 가짜 이미지를 생성(Generative)하고, 생성 및 감별 기능의 두 개 모델을 서로 적대적(Adversarial)으로 경쟁·학습시킨 인공신경망(Network)을 뜻한다. 소프트웨어정책연구소의 안성원AI 정책연구실장은 "원래 GAN은 영상이나 이미지를 정교하게 편집하거나, 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용하기 위해 개발됐다"며 "그러나 정치·사회적으로 테러 및 가짜 뉴스 등에 악용하는 사례가 점차 증가하고 있는 것이 현실"이라고 지적했다. 안 실장이 작성한 '인공지능의 악용 사례, 딥페이크 기술과 과제' 보고서에 따르면 최근엔 GAN을 활용해 AI가 사람의 피부뿐 아니라 머리카락까지 실제와 비슷한 이미지를 생성하는 수준에 이르러, 기술적 한계를 이미 뛰어넘은 것으로 판단되고 있다. 미국 UC버클리대와 영국 랭커스터대 공동연구팀은 실제 얼굴과 AI가 합성한 얼굴을 구별하는 실험을 통해 사람들이 AI가 합성한 가짜를 구별하지 못하며 오히려 가짜를 더 신뢰한다는 결과를 도출했다. 223명의 실험 참가자를 대상으로, 실제 사람 얼굴 사진과 AI가 합성한 얼굴 사진이 섞인 800장의 세트에서 무작위로 128장을 뽑아 신뢰도에 따라 1~7점 척도의 점수를 부여하게 한 결과, 합성 얼굴에 대한 평균 신뢰도(4.82)가 실제 얼굴 평균 신뢰도(4.48)보다 높게 나타났다. 또한 신뢰도 상위 4개의 얼굴 중 3개는 합성 얼굴이며, 신뢰도 하위 4개 얼굴은 모두 실제 얼굴이었다. 이런 가운데 최근에는 모바일 앱으로 누구나 쉽게 딥페이크 영상 제작이 가능해져 범죄 악용 우려가 커지고 있다. 구글·애플 앱스토어에서 ‘딥페이크'라는 검색어만 입력하면 관련 앱이 쏟아진다. 이미 전 세계에서 1억 명 이상이 다운로드한 '리페이스' 앱은 일주일에 6500원이면 워터마크 없는 딥페이크 이미지를 뚝딱 생성해준다. 실제로 인스타그램, 페이스북, 유튜브에는 딥페이크 기술로 제작된 영상이 넘쳐난다. 방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 지난해 1월부터 11월까지 5996건으로 집계됐다. 2020년 473건, 2021년 1913건, 2022년 3574건으로 해를 거듭할 수록 증가하는 추세다. [[[[:newsis_bold_start:]]]]◆4월 총선 '딥페이크' 영상 잡는다…정부·업계 총력[[[[:newsis_bold_end:]]]] 4월 총선을 앞둔 우리나라도 딥페이크 영상으로 비상이다. 총선 기간에 각 시·도경찰청 사이버수사대가 딥페이크와 관련한 선거범죄를 직접 수사한다. 중앙선거관리위원회(선관위) 등이 불법 선거운동을 목적으로 제작된 딥페이크를 적발해 고발하는 사건 등이 주요 수사 대상이다. 선관위 자체적으로도 딥페이크 작업물을 찾아내기 위해 유튜브, 포털 사이트, 트위터, 페이스북 등을 모니터링하고 있다. 정부와 IT 기업들도 딥페이크에 대한 대응책을 마련하고 있다. 이미 정부는 2020년 ‘AI 학습용 데이터 구축 사업'의 세부 과제[ 중 하나로 '딥페이크 방지 영상 AI 데이터'를 선정하고 연구를 진행해왔다. 최근에는 과학기술정보통신부가 AI 생성물에 대한 워터마크 표시 의무화 전까지 업계에 자발적인 대응을 권고한 상황이다. 이에 네이버는 AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트 하는 등 감시를 강화했다. 또 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도의 신고 센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다. ◎공감언론 뉴시스 [email protected]

https://weekly.newsis.com