[WIKI 테크] 딥페이크 ‘허위 이미지’ 난무하지만 감별은 제한적

악의적 딥페이크(deepfake) 허위 제작물을 감별하기 위해 이미지의 출처를 밝히거나 역검색하는 검증 단계가 필요하다는 의견이 나왔다.

7일(현지시간) 미국 인사이더는 “딥페이크 기술이 정치인에 대한 가짜뉴스부터 불법 포르노 산업까지 침투해 사실관계 파악이 어려워졌다”며 “이미지를 역추적하는 등의 별도 검증 단계가 필요하다”고 보도했다. 딥페이크를 탐지하는 인공지능(AI)인 페이크캐쳐나 딥페이크오미터 등은 아직 접근성과 정확성이 제한적이라 대안이 필요하다는 주장이다.

생체인식 보안사 ID R&D의 알렉세이 키트로프 대표는 “의심스러운 이미지에 의문이 들면 평소 정보를 검색하듯 이미지도 검색해 보라”며 “누가, 어디서, 어떻게 공유했는지 검증해야 한다”고 제언했다.

메타 리얼리티 랩스의 유럽 자문위원을 맡고 있는 헨리 아이더 박사도 “AI 기술이 고도화되면서 부자연스러운 미적 요소만으로는 딥페이크 식별이 불가해졌다”며 “‘권위 있는 출처’가 필요하다”고 밝혔다.

구글 렌즈나 얀덱스 검색 기능을 활용해 이미지를 추적하는 방안도 제시됐다. AI 전문가들은 “이미지를 역검색하면 해당 이미지가 공유된 웹사이트가 모두 조회된다. 이러한 이미지 추적 작업을 습관화할 필요가 있다”고 했다.

한편 AI로 만든 허위 제작물 논란은 계속되고 있다. 최근 소셜미디어(SNS)에는 프란치스코 교황이 흰색 롱패딩을 입고 외출한 사진이 퍼지는가 하면, 트럼프 전 대통령이 교도소에서 주황색 재소자 복장을 착용한 모습이 공개돼 화제가 됐다. 이는 모두 AI 프로그램 미드저니를 통해 제작된 이미지였다. 

유명 배우들의 얼굴을 합성한 음란 동영상으로도 한차례 소동이 일었다. 미국 NBC 뉴스에 따르면 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 영화 해리포터 주인공인 엠마 왓슨을 닮았고 다른 74개는 할리우드 액션 배우 스칼렛 요한슨의 얼굴을 합성한 것으로 나타났다. 해당 광고에서 웃고 있는 이들의 얼굴은 딥페이크로 합성된 모습이었다.

[위키리크스한국=조 은 기자]