사회 > 사회일반

딥페이크 음란물 급성장에도 속도 못 따라가는 '규제' [포르노가 된 딥페이크③]

등록 2025-03-24 07:00:00 최종수정 2025-03-25 11:06:14

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	딥페이크 음란물 급성장에도 속도 못 따라가는 '규제' [포르노가 된 딥페이크③] [편집자주]연예인 음란물부터 지인 능욕까지 광범위하게 사용되는 딥페이크 기술. 지난해 학생들이 연루된 대규모 딥페이크 음란물 사태가 공론화된 뒤 처벌법이 마련됐지만 지금도 '○○방'은 새롭게 생기고 사라지고 있다. 뉴시스는 포르노 산업을 계승한 '딥페이크 산업' 구조를 분석하고 대책을 고민했다. '판매자' 근절을 위해 기술 오남용을 규제하고, '소비자' 유입을 막기 위해 왜곡된 성인식을 개선해야 한다는 결론에 이르렀다. [서울=뉴시스] 최은수 이명동 기자 = 딥페이크 성범죄의 정점에는 허위영상물을 만들어 판매하는 제작자(운영자)가 있다. 이들이 만든 음란물은 갈수록 정교해지고 빠르게 성장하고 있지만 정부의 규제는 그 속도를 따라가지 못하고 있다. 구글 모회사 알파벳의 최고경영자(CEO) 순다르 피차이는 "사회가 인공지능(AI) 기술에 대한 준비가 돼 있지 않은 것 같다"며 "(AI) 규제나 남용을 처벌하는 법을 만들고, 인간의 가치에 부합하는 규칙뿐만 아니라 국가 간 조약을 만들어야 한다"고 말했다. 빠르게 발전하는 신기술을 법·제도가 따라가지 못하는 '문화지체 현상'이 AI 분야에서 일어나고 있는 셈이다. 딥페이크 기술 자체를 규제하긴 어렵지만 악용을 차단할 법 정비는 시급하다. ◆오픈소스 방식으로 누구나 딥페이크 접근…전문가 "기술 원천 차단 한계" 딥페이크 기술 자체를 원천 차단하는 것은 현실적으로 어렵고 해법도 아니다. 김명주 서울여대 정보보호학부 교수는 "AI 이미지 생성이 오픈소스로 공개된 뒤 음란물까지 학습하면서 손쉽게 오픈소스 AI로 음란물을 제작할 수 있게 됐다"고 진단했다. 이은의 성폭력전문 변호사는 "AI 합성기술이 항상 성범죄를 수반하는 건 아니다"라며 "딥페이크 영상물을 유통할 때 합성영상물이라는 것을 표시하고, 제작자의 IP가 공개되게 하는 것 같은 국제 표준을 만들 필요가 있다"고 말했다. 정보기술(IT)업계에서는 누구나 이용 가능한 오픈소스 AI 모델 특성상 딥페이크 기술 자체를 막기는 어렵다고 본다. 딥페이크 기술이 탐지 기술보다 앞서는 근본적인 한계가 존재하기 때문이다. 김덕진 IT커뮤니케이션연구소장은 "워낙 많은 오픈 소스들이 쏟아지고 있어 특정 키워드를 막는 등 기업들의 자율 규제가 가능하겠지만 일부 외국계 기업이나 오픈소스 계열은 규제로 막기 어려운 현실"이라고 말했다. 한진영 성균관대 인공지능융합학과 교수는 "딥페이크 생성 기술이 빠르게 발전해서 리얼한 영상을 만들어내는 만큼 방패 역할을 하는 탐지, 필터링 기술도 적극적인 연구개발을 해야 한다"고 밝혔다. ◆플랫폼 내 '딥페이크 성범죄물' 삭제·차단 조치 강화해야 전문가들은 딥페이크 기술이 성범죄에 쓰이지 않게 제도를 정비하고 성범죄물 유통을 차단하는 방향으로 플랫폼 책임을 강화해야 한다고 본다. 세계 곳곳에서는 AI 발전에 발맞춰 성 착취물 생성·유포 등 부작용에 대처하기 위한 움직임이 나타나고 있다. 유럽연합(EU)은 AI법(AI Act)에 따라 AI 사용을 규제하는 동시에 디지털서비스법(DSA)을 통해 빅테크 플랫폼 사업자에 대한 법적 의무를 강화하고 있다. AI를 활용한 성 착취물 등 생성·확산에 지침을 마련하고 책임을 부과하고 있는 셈이다. 영국도 온라인 안전법(OSA)은 합의되지 않은 포르노 딥페이크의 유포를 불법으로 규정하고 있고, 프랑스는 해외에 기반을 둔 서비스라도 허위정보 유포 등으로 프랑스의 기본 이익을 해치면 서비스 중지 명령을 내릴 수 있다. 호주는 디지털 방식으로 제작됐더라도 동의 없이 음란물을 공유하는 모든 사람에게 중한 형사 처벌을 부과하는 법안을 시행하고 있다. ◆국내 규제법 제정은 지지부진 국내 법에서는 딥페이크를 활용한 성범죄물을 유통할 경우 플랫폼이 이를 삭제할 의무를 부과하는 근거가 없다. 정부는 지난해 11월 딥페이크 성범죄 대응 강화 방안을 발표하면서 관련 법령을 적극 해석, 개정해 텔레그램 등 국내외 플랫폼 사업자 규제를 추진한다는 방침을 내놨다. 딥페이크 성범죄물 등에 대해 '선차단, 후심의' 원칙을 적용하는 내용을 담은 전기통신사업법 개정안이 국회에서 발의됐지만, 소관 상임위에서 계류 중이다. 내년 1월 시행을 앞둔 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법) 제31조가 생성물에 워터마크를 붙여 AI로 만든 것임을 표시하도록 했지만 한계는 여전하다는 지적이다. 김명주 교수는 "텔레그램 내 AI 봇은 AI기본법을 개의치 않는 개인이 사용하기 때문에 법의 사각 지대에 있다"고 지적했다. 이수정 경기대 범죄심리학과 교수는 "글로벌 스탠다드에 따라 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고, 이들에게 삭제 의무를 부여해야 한다"라며 "생성형 AI기술 발전 역시 아동 및 청소년 보호 등 유해하고 테두리를 벗어날 경우 엄벌할 수 있는 근거가 AI기본법 등에 마련돼야 한다"라고 제언했다. 플랫폼 책임을 강화하도록 법이 개정되더라도 텔레그램 등 해외에 서버를 둔 플랫폼 기업들에 규제를 적용하기 어렵다는 점은 한계로 지목된다. 실제 텔레그램은 방송통신위원회 통보에 따라 청소년보호책임자를 공식적으로 지정했지만 국내 대리인은 두지 않아 법을 강제할 수단이 마땅치 않다. 방통위 관계자는 "최근 텔레그램이 국내 대리인 지정 요건에 해당되는지에 대한 자료를 회신 받았고 이에 대해 확인하는 과정"이라고 밝혔다. 이성엽 고려대 기술경영전문대학원 교수는 "AI 기본법에 딥페이크 고지 및 표시의무가 들어갔지만 명확하지 않다. 플랫폼이 자체 모니터링하고 삭제 및 차단하는 책임을 강화하는 입법 논의가 필요하다"라며 "해외 기업 역시 한국법을 따르도록 강력히 조치해야 한다"라고 말했다. ◎공감언론 뉴시스 [email protected], [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

딥페이크 음란물 급성장에도 속도 못 따라가는 '규제' [포르노가 된 딥페이크③] [편집자주]연예인 음란물부터 지인 능욕까지 광범위하게 사용되는 딥페이크 기술. 지난해 학생들이 연루된 대규모 딥페이크 음란물 사태가 공론화된 뒤 처벌법이 마련됐지만 지금도 '○○방'은 새롭게 생기고 사라지고 있다. 뉴시스는 포르노 산업을 계승한 '딥페이크 산업' 구조를 분석하고 대책을 고민했다. '판매자' 근절을 위해 기술 오남용을 규제하고, '소비자' 유입을 막기 위해 왜곡된 성인식을 개선해야 한다는 결론에 이르렀다. [서울=뉴시스] 최은수 이명동 기자 = 딥페이크 성범죄의 정점에는 허위영상물을 만들어 판매하는 제작자(운영자)가 있다. 이들이 만든 음란물은 갈수록 정교해지고 빠르게 성장하고 있지만 정부의 규제는 그 속도를 따라가지 못하고 있다. 구글 모회사 알파벳의 최고경영자(CEO) 순다르 피차이는 "사회가 인공지능(AI) 기술에 대한 준비가 돼 있지 않은 것 같다"며 "(AI) 규제나 남용을 처벌하는 법을 만들고, 인간의 가치에 부합하는 규칙뿐만 아니라 국가 간 조약을 만들어야 한다"고 말했다. 빠르게 발전하는 신기술을 법·제도가 따라가지 못하는 '문화지체 현상'이 AI 분야에서 일어나고 있는 셈이다. 딥페이크 기술 자체를 규제하긴 어렵지만 악용을 차단할 법 정비는 시급하다. ◆오픈소스 방식으로 누구나 딥페이크 접근…전문가 "기술 원천 차단 한계" 딥페이크 기술 자체를 원천 차단하는 것은 현실적으로 어렵고 해법도 아니다. 김명주 서울여대 정보보호학부 교수는 "AI 이미지 생성이 오픈소스로 공개된 뒤 음란물까지 학습하면서 손쉽게 오픈소스 AI로 음란물을 제작할 수 있게 됐다"고 진단했다. 이은의 성폭력전문 변호사는 "AI 합성기술이 항상 성범죄를 수반하는 건 아니다"라며 "딥페이크 영상물을 유통할 때 합성영상물이라는 것을 표시하고, 제작자의 IP가 공개되게 하는 것 같은 국제 표준을 만들 필요가 있다"고 말했다. 정보기술(IT)업계에서는 누구나 이용 가능한 오픈소스 AI 모델 특성상 딥페이크 기술 자체를 막기는 어렵다고 본다. 딥페이크 기술이 탐지 기술보다 앞서는 근본적인 한계가 존재하기 때문이다. 김덕진 IT커뮤니케이션연구소장은 "워낙 많은 오픈 소스들이 쏟아지고 있어 특정 키워드를 막는 등 기업들의 자율 규제가 가능하겠지만 일부 외국계 기업이나 오픈소스 계열은 규제로 막기 어려운 현실"이라고 말했다. 한진영 성균관대 인공지능융합학과 교수는 "딥페이크 생성 기술이 빠르게 발전해서 리얼한 영상을 만들어내는 만큼 방패 역할을 하는 탐지, 필터링 기술도 적극적인 연구개발을 해야 한다"고 밝혔다. ◆플랫폼 내 '딥페이크 성범죄물' 삭제·차단 조치 강화해야 전문가들은 딥페이크 기술이 성범죄에 쓰이지 않게 제도를 정비하고 성범죄물 유통을 차단하는 방향으로 플랫폼 책임을 강화해야 한다고 본다. 세계 곳곳에서는 AI 발전에 발맞춰 성 착취물 생성·유포 등 부작용에 대처하기 위한 움직임이 나타나고 있다. 유럽연합(EU)은 AI법(AI Act)에 따라 AI 사용을 규제하는 동시에 디지털서비스법(DSA)을 통해 빅테크 플랫폼 사업자에 대한 법적 의무를 강화하고 있다. AI를 활용한 성 착취물 등 생성·확산에 지침을 마련하고 책임을 부과하고 있는 셈이다. 영국도 온라인 안전법(OSA)은 합의되지 않은 포르노 딥페이크의 유포를 불법으로 규정하고 있고, 프랑스는 해외에 기반을 둔 서비스라도 허위정보 유포 등으로 프랑스의 기본 이익을 해치면 서비스 중지 명령을 내릴 수 있다. 호주는 디지털 방식으로 제작됐더라도 동의 없이 음란물을 공유하는 모든 사람에게 중한 형사 처벌을 부과하는 법안을 시행하고 있다. ◆국내 규제법 제정은 지지부진 국내 법에서는 딥페이크를 활용한 성범죄물을 유통할 경우 플랫폼이 이를 삭제할 의무를 부과하는 근거가 없다. 정부는 지난해 11월 딥페이크 성범죄 대응 강화 방안을 발표하면서 관련 법령을 적극 해석, 개정해 텔레그램 등 국내외 플랫폼 사업자 규제를 추진한다는 방침을 내놨다. 딥페이크 성범죄물 등에 대해 '선차단, 후심의' 원칙을 적용하는 내용을 담은 전기통신사업법 개정안이 국회에서 발의됐지만, 소관 상임위에서 계류 중이다. 내년 1월 시행을 앞둔 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법) 제31조가 생성물에 워터마크를 붙여 AI로 만든 것임을 표시하도록 했지만 한계는 여전하다는 지적이다. 김명주 교수는 "텔레그램 내 AI 봇은 AI기본법을 개의치 않는 개인이 사용하기 때문에 법의 사각 지대에 있다"고 지적했다. 이수정 경기대 범죄심리학과 교수는 "글로벌 스탠다드에 따라 과징금 부과나 서비스 운영 정지 등 플랫폼 기업을 제재할 수 있는 장치를 마련하고, 이들에게 삭제 의무를 부여해야 한다"라며 "생성형 AI기술 발전 역시 아동 및 청소년 보호 등 유해하고 테두리를 벗어날 경우 엄벌할 수 있는 근거가 AI기본법 등에 마련돼야 한다"라고 제언했다. 플랫폼 책임을 강화하도록 법이 개정되더라도 텔레그램 등 해외에 서버를 둔 플랫폼 기업들에 규제를 적용하기 어렵다는 점은 한계로 지목된다. 실제 텔레그램은 방송통신위원회 통보에 따라 청소년보호책임자를 공식적으로 지정했지만 국내 대리인은 두지 않아 법을 강제할 수단이 마땅치 않다. 방통위 관계자는 "최근 텔레그램이 국내 대리인 지정 요건에 해당되는지에 대한 자료를 회신 받았고 이에 대해 확인하는 과정"이라고 밝혔다. 이성엽 고려대 기술경영전문대학원 교수는 "AI 기본법에 딥페이크 고지 및 표시의무가 들어갔지만 명확하지 않다. 플랫폼이 자체 모니터링하고 삭제 및 차단하는 책임을 강화하는 입법 논의가 필요하다"라며 "해외 기업 역시 한국법을 따르도록 강력히 조치해야 한다"라고 말했다. ◎공감언론 뉴시스 [email protected], [email protected]

https://weekly.newsis.com

딥페이크 음란물 급성장에도 속도 못 따라가는 '규제' [포르노가 된 딥페이크③]

이메일 보내기

가장 많이 본 기사

최신 커버스토리

분류별 최신 기사

정기구독안내

딥페이크 음란물 급성장에도 속도 못 따라가는 '규제' [포르노가 된 딥페이크③]

이메일 보내기

가장 많이 본 기사

최신 커버스토리

분류별 최신 기사