최근 인공지능 혁명기를 맞아 딥페이크(Deep Fake)가 온라인 콘텐츠 신뢰성에 대해 심각한 위협으로 부상하고 있다. 정교한 인공지능으로 제작된 딥페이크는 동영상, 음성, 사진의 사실과 허구를 구분하기가 점점 어려워지고 있다는 지적이다.

종전 인공지능을 이용한 인간 이미지 합성 기술인 딥페이크의 범죄 대상이 주로 유명인들이었다면, 최근에는 일반인들까지 피해가 확대되고 있는 상황이다.

우리 일상 속 깊숙이 파고든 딥페이크 범죄에 전문가들은 범죄화 대상의 폭을 넓히는 등 플랫폼에 대한 규제를 좀 더 구체화해야 한다는 목소리가 높아지고 있다.

딥페이크의 기술이 발전함에 따라 이를 탐지하기 위한 도구와 기법도 함께 발전하고 있다.

딥페이크는 개인적인 관계부터 정치, 선거까지 모든 것을 혼란에 빠트릴 수 있는 잠재력을 가지고 있기 때문에 효과적인 딥페이크 탐지 도구와 기술의 필요성이 그 어느 때보다 중요해졌다.

이와 관련해 인공지능 전문매체 ‘유나이트 에이아이’(Unite.ai)는 현재 사용 가능한 5가지 딥페이크 탐지 도구와 기법을 보도해 관심을 끌고 있다.

조작된 미디어의 위치와 방법을 확인하게 해주는 ‘센티널’(Sentinel)

센티널(sentinel)은 정부, 국방 기관 및 기업이 딥페이크의 위협을 차단할 수 있도록 지원하는 선도적인 AI 기반 보호 플랫폼이다. 주로 센티널의 기술은 유럽의 주요 기관에서 사용하고 있다. 

이 시스템은 사용자가 웹사이트 또는 API를 통해 디지털 미디어를 업로드하면 자동으로 AI 위조 여부를 분석하는 방식으로 작동한다. 시스템은 미디어가 딥페이크인지 아닌지를 판단하고 조작에 대한 시각화를 제공하고 있다.

센티넬의 딥페이크 탐지 기술은 디지털 미디어의 무결성을 보호하기 위해 설계됐다. 이 기술은 고급 AI 알고리즘을 사용해 업로드된 미디어를 분석하고 조작 여부를 판단한다.

이 시스템은 변경된 미디어 영역의 시각화를 포함해 발견한 결과에 대한 자세한 보고서를 제공한다. 이를 통해 사용자는 미디어가 조작된 위치와 방법을 정확히 확인할 수 있다.

센티널의 주요 기능은 AI 기반 딥페이크 탐지, 사용자가 분석을 위해 디지털 미디어를 업로드, 조작된 미디어를 시각화 제공한다.

인텔의 실시간 딥페이크 탐지기 ‘페이크캐처’(FakeCatcher)

인텔은 실시간 딥페이크 검출기인 ‘페이크캐처’(FakeCatcher)를 도입했다. 이 기술은 96%의 정확도로 가짜 동영상을 감지해 밀리초(1000분의 1초) 내에 결과를 반환할 수 있다.

뉴욕주립대학교의 우무르 시프치와 공동으로 설계한 이 탐지기는 인텔 하드웨어와 소프트웨어를 사용하고 서버에서 실행되며 웹 기반 플랫폼을 통해 접속한다.

페이크캐처는 실제 비디오에서 실제 단서를 찾아내 비디오의 픽셀에서 인간을 만드는 미묘한 '혈류'를 평가한다.

심장이 혈액을 펌프질하면 정맥의 색이 변하게 되는데, 이러한 혈류 신호는 얼굴 전체에서 수집되며 알고리즘은 이러한 신호를 시공간 지도로 변환한다. 그 다음 딥 러닝을 사용해 비디오가 진짜인지 가짜인지 즉시 감지할 수 있다.

지능형 휴먼인더루프(HITL) 콘텐츠 허위 분석 ‘위베리파이’(WeVerify)

‘위베리파이’(WeVerify)는 지능형 휴먼인더루프(HITL) 콘텐츠 검증 및 허위 정보 분석 방법과 도구를 개발하는 것을 목표로 하는 프로젝트다.

이 프로젝트는 광범위한 온라인 생태계 내에서 소셜 미디어와 웹 콘텐츠를 분석하고 맥락화해 조작된 콘텐츠를 노출시키는 데 중점을 두고 있다.

이는 크로스 모달 콘텐츠 검증, 소셜 네트워크 분석, 마이크로 타겟팅 디벙킹을 통해 조작된 콘텐츠를 노출하고 알려진 가짜 콘텐츠에 대한 블록체인 기반 공개 데이터베이스를 통해 이루어져 있다.

마이크로소프트의 비디오 인증 도구

마이크로소프트의 비디오 인증 도구는 정지 사진이나 비디오를 분석해 미디어가 조작됐는지 여부를 나타낸 다음에 신뢰도 점수를 제공하는 강력한 도구다.

이 도구는 사람의 눈으로는 감지할 수 없는 딥페이크와 미묘한 요소의 혼합 경계를 감지한다. 또한 실시간으로 신뢰도 점수를 제공하므로 딥페이크를 즉시 감지할 수 있다.

동영상 인증 도구는 고급 AI 알고리즘을 사용해 미디어를 분석하고 조작의 징후를 감지한다. 이는 미디어의 회색조 요소에서 미묘한 변화를 찾아내는데, 이는 종종 딥페이크의 명백한 징후라고 전문가들은 설명했다.

이 도구는 사용자가 미디어 조작의 진위 여부를 빠르게 판단할 수 있도록 도와준다.

음소(Phoneme)-비짐(viseme) 불일치를 이용한 딥페이크 탐지

스탠퍼드 대학교와 캘리포니아 대학교의 연구진이 개발한 이 혁신적인 기술은 비짐(viseme)이 때때로 음성 음소와 다르거나 일치하지 않는다는 사실을 이용했다.

비짐은 특정한 소리를 묘사하는데 사용될 수 있는 포괄적인 얼굴 이미지를 말한다. 얼굴과 입의 위치로 단어의 의미를 구별 짓는 최소의 시각적 단위라고도 한다.

이러한 불일치는 딥페이크에서 흔히 볼 수 있는 결함으로, AI가 입의 움직임과 발화된 단어를 완벽하게 일치시키는 데 어려움을 겪는 경우가 많다.

음소-비짐 불일치 기술은 고급 AI 알고리즘을 사용해 비디오를 분석하고 이러한 불일치를 감지한다. 입의 움직임(비짐)과 발화된 단어(음소)를 비교해 일치하지 않는 부분이 있는지 찾고, 불일치가 감지되면 해당 동영상이 딥페이크임을 강력하게 나타내는 신호라고 생각해야 한다고 전문가들은 주장했다.

위 도구들은 고급 AI 알고리즘을 활용해 놀라운 정확도로 딥페이크를 분석하고 탐지한다. 각 도구와 기법은 동영상의 미묘한 요소 분석부터 피사체의 표정과 움직임 추적에 이르기까지 딥페이크 감지에 대한 고유적 접근 방식을 제공하고 있다고 전문가들은 말하고 있다.

예를 들어 센티널은 AI를 사용해 디지털 미디어를 분석하고 조작 여부를 판단해 조작의 시각화를 제공하고, 반면 마이크로소프트의 비디오 인증 도구는 정지 사진이나 비디오가 조작됐는지 여부를 나타내는 실시간 신뢰도 점수를 제공한다.

이러한 도구는 앞서 설명한 다른 도구와 함께 딥페이크와의 전쟁을 주도하며 온라인 콘텐츠의 진위 여부를 확인하는데 도움을 줄 것이라고 전문가들은 설명했다.

그러나 전문가들은 딥페이크의 기술이 계속 발전함에 따라 이를 탐지하는 방법도 발전해야 한다고 주장했다.

한 AI 전문가는 “딥페이크 기술의 발전은 빠르게 진행되고 있으며, 트위터의 도구와 기술도 이에 발맞춰 진화해야 한다”며 “이를 위해서는 지속적인 연구와 개발은 물론 연구자, 기술 기업, 정책 입안자 간의 협력이 필요”하다고 말했다. 그는 “또한 기술만으로는 딥페이크 문제를 해결할 수 없다는 점을 기억하는 것과 일반인들의 교육과 인식 또한 매우 중요하다”고 덧붙였다.

[위키리크스한국= 유 진 기자]

yoojin@wikileaks-kr.org