AI가 만든 ‘딥페이크’ 포르노, 처벌안 발의에도 실효성 '의문'... 정치에도 악용 우려
AI가 만든 ‘딥페이크’ 포르노, 처벌안 발의에도 실효성 '의문'... 정치에도 악용 우려
  • 최종원 기자
  • 기사승인 2020-01-10 17:43:52
  • 최종수정 2020.01.10 16:45
  • 댓글 0
이 기사를 공유합니다

AI 기술 발전에 따라 진짜인척 하는 가짜 '딥페이크' 영상 더욱 정교해져
지난 12월 딥페이크 포르노 처벌법 발의됐지만... 타국에서 유포되는 경우 빈번
총선 앞두고 정치권에서도 우려의 목소리
딥페이크 잡는 AI 기술보다 중요한 건 끊임없이 검증하고자 하는 '노력'
미국 오바마 대통령
오바마 전(前) 미국 대통령과 흡사한 딥페이크 영상의 일부.

인공지능(AI) 기술이 나날이 발전하면서 '딥페이크(deepfake)' 영상도 원본과 구별이 힘들 정도로 한층 정교해지고 있다. 딥페이크는 특정 인물의 얼굴 등을 AI 기술을 이용해 영상에 합성한 편집물이다. 오바마 전(前) 미국 대통령을 따라한 딥페이크 영상의 경우 표정과 제스처, 목소리가 매우 흡사해 ‘인공지능 합성 영상’이라는 안내 문구가 없으면 영락없이 속아 넘어갈 정도다. 

이러한 딥페이크 영상의 대부분은 불법 음란물이다. 보안 기업 딥트레이스(Deeptrace)에 따르면 96%의 딥페이크 영상이 포르노이며, 이러한 영상에는 영국이나 미국의 여배우가 41%, 한국 연예인이 25%에 이른다고 발표했다.

상당수의 국가에서 딥페이크 규제는 AI 기술 발전 속도를 따라가지 못하고 있다. 이른바 '지인능욕'이라는 이름으로 딥페이크 포르노에 얼굴을 노출당하는 것은 피해자에게 씻을 수 없는 정신적 고통으로 다가오지만, 법적으로는 이같은 행위가 불법 촬영 영상 유포나 성폭행에 해당하지 않아 처벌이 사실상 불가능하다. 

딥페이크 음란물 대부분이 타국에서 유포되고 있다. [사진=연합뉴스]

◇ '딥페이크 음란물' 처벌안 발의됐지만... 타국에서 유포되는 경우 많아 실효성 '의문'

이에 지난 12월 자유한국당 박대출 의원 등 국회의원 11명은 '성폭력범죄의 처벌 등에 관한 특례법 개정안'을 발의했다. 해당 개정안은 사실상 '딥페이크 처벌법'으로 불리는데, 그 전에는 딥페이크 음란물에 대한 법 체계가 마련돼 있지 않아 명예훼손죄나 음화제조죄로만 처벌이 가능했다. 실제 인물이 아니기 때문에 불법 촬영 영상 유포나 성폭행에 해당하지 않기 때문. 

개정안을 살펴보면 우선 '인공지능 기술을 이용하여 사람의 음성이나 얼굴·신체를 대상으로 한 음향·화상 또는 영상을 합성 또는 편집함으로써 성적 욕망 또는 수치심을 유발할 수 있는 거짓의 음향 등을 제작한 사람은 5년 이하 징역 또는 5000만원 이하 벌금에 처한다'는 조항이 마련됐다.

이어 '이렇게 합성 또는 편집한 음향 등을 널리 유포한 사람도 5년 이하 징역 또는 5000만원 이하 벌금에 처한다'는 조항이 명시됐다. 마지막으로 '영리를 목적으로 정보통신망(SNS)을 이용해 영상을 유포한 이는 7년 이하 징역에 처한다'는 항목이 들어갔다. 

법안을 대표 발의한 박대출 의원은 “딥페이크의 기반이 되는 인공지능 기술 산업은 중요한 산업이지만 음란물 등 사회적 문제를 일으키는 부분은 강력한 처벌이 필요하다”고 밝혔다.

문제는 딥페이크 음란물의 진원지는 대부분 중국이라는 것이다. 미국 대중문화 전문 잡지 롤링스톤은 “중국이 K팝의 주요 소비국이 된 만큼 한국 여자 연예인의 딥페이크 영상은 주로 중국에서 제작되고 있다”는 분석을 밝힌 바 있다. 

이에 대해 경찰청 사이버안전국 관계자는 "외국인이 해외에서 저지른 범죄도 해외수사 기관과 공조해서 범인이 색출된다고 한다면 처벌이 가능하다"고 밝혔다. 그러나 이는 현실적으로 어려운 상황에 놓여있는데, 수천개에 이르는 딥페이크 영상의 진원지를 모두 색출해 잡는 것은 불가능에 가깝기 때문이다. 

구글에 딥페이크 관련 단어를 검색하면 '지인이나 연예인 사진을 가져오면 합성해준다'는 브로커들도 있다. 이들은 반응이 좋으면 문화상품권을 선물로 준다고 유도하는 등 특정 SNS의 익명성을 악용하고 있는데, 원본이 삭제돼도 2차글, 3차글의 형태로 그대로 남아 있기에 피해자가 손을 쓰기 힘든 구조다. 

또 여성의 얼굴을 다양한 각도에서 담은 사진 250장만 있으면 1~2일 안에 딥페이크 포르노를 맞춤 제작할 수 있는 것으로 밝혀졌다. 이런 영상을 판매하는 업체와 브로커도 생겨났는데, 이들이 제작한 딥페이크 포르노 영상은 3달러(약 3580원)에 판매되고 있다고 CNN 방송은 보도했다.

이와 관련 미국 버지니아주에서는 지난해 7월부터 딥페이크 기술로 합성한 성인용 영상물을 리벤지 포르노의 영역에 포함한다는 내용의 법안이 발효돼, 딥페이크로 리벤지 포르노를 제작·유포할 경우 최대 1년의 징역과 벌금을 부과하고 있다.

유럽에서는 딥페이크 영상 피해자 보호를 위해 개인정보보호규정(GDPR)의 ‘잊힐 권리(right to erasure)’에 따라 삭제를 요청하거나 데이터 처리에 이의를 제기할 수 있다. 2018년에는 ‘딥페이크를 비롯한 허위정보 전반에 대응하기 위한 전략’을 발표해 가짜정보식별을 위해 정보의 출처 및 신뢰성 여부를 쉽게 알 수 있도록 조치했다.

총선을 앞두고 딥페이크 영상에 대한 대비책이 필요하다는 주장이 나오고 있다. [사진=연합뉴스]

◇ 총선 앞두고 정치권도 '딥페이크 경계령'... 관련 법안은 전무

미국은 국가적으로 딥페이크를 중요한 안보 위협으로 간주했다. 미국 국방부 산하의 고등연구계획국(DARPA)은 딥페이크 영상 탐지 기술 연구를 진행하고 있으며, 미국 하원은 2018년 딥페이크 금지 법안을 발의하기도 했다. EU에서는 프랑스의 AFP, 독일의 도이체 벨레 등 대표 언론사들이 협력해 딥페이크를 검증하는 도구 개발 프로젝트 ‘인비드 프로젝트'를 진행하고 있다.

한편, 소셜미디어 페이스북은 올해 미국 대선을 앞두고 딥페이크 영상의 게시를 금지했다. 워싱턴포스트(WP)의 보도에 따르면 대선을 앞둔 미국에서는 대통령 후보의 얼굴을 합성해 실제로 하지 않은 발언이나 행동을 한 것처럼 꾸민 동영상의 유포가 빈번해 선거 결과에 영향을 미칠 수 있다고 우려한 것이다. 낸시 팰로시 미국 하원의장, 힐러리 클린턴 前 민주당 대선 후보에 이어 도널드 트럼프 대통령까지 딥페이크에 악용되자 페이스북이 칼을 뽑은 것으로 보인다. 

우리나라의 경우 총선을 두자릿수 앞둔 현재 특정 후보자를 비방할 목적으로 제작된 딥페이크 영상에 대한 대비책은 미흡한 것이 사실이다. 특히 네거티브를 위해 가짜뉴스로 인한 피해 사례가 꾸준히 보고되고 있는 만큼 앞서 대응해야 할 필요성이 대두되는 가운데, 이를 처벌할 수 있는 법안이 마땅치 않다. 선거가 코 앞으로 다가온 시점에서 가짜 영상이 유포되면 이를 바로잡는 데 시간이 충분치 않아 후보자에게 큰 타격으로 다가올 수 있다. 

국회입법조사처 김유향 팀장은 지난 10월 보고서에서 "딥페이크는 정치적 측면에서 허위조작 정보와 결합해 각국의 선거에 지대한 영향을 미칠 수 있다"며 "투개표 전날 후보자에게 불리한 허위조작 영상이 유포될 경우 이를 바로잡을 충분한 시간을 확보하지 못한 상태에서 돌이킬 수 없는 결과를 야기할 수 있다"고 우려했다. 

객관적 사실보다 개인의 신념과 감정이 여론 형성에 더 큰 영향력을 발휘한다는 '탈진실(post-truth)' 사회에서 딥페이크는 큰 영향력을 발휘한다. 김 팀장은 "딥페이크의 가장 큰 위험은 일반국민은 물론 정부도 무엇이 진짜 또는 가짜인지를 식별할 수 없는 상황이 될 수도 있다는 것"이라며 "국회에서도 약 20여건의 허위정보에 대한 법안이 제출되어 있지만, 딥페이크에 대한 대응은 부재한 상태"라고 지적한 바 있다.

딥페이크 문제 해결을 위해 기술적 부문도 중요하지만 무엇보다 신뢰하고 검증하려는 사회 전반의 노력이 선행돼야 한다는 주장도 제기된다. 보안업계 관계자는 "AI가 만든 딥페이크를 방지하는 기술은 곧 AI를 통해 해결되겠지만 이를 악용한 것은 인간"이라며 "진짜인지 가짜인지 끊임없이 의심하지 않는다면 딥페이크 방지 기술은 모두 허상이 될 것"이라고 말했다. 

[위키리크스한국=최종원 기자]

sus@wikileaks-kr.org


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.