올해 전세계 50여개국에서 선거가 예고된 가운데 인공지능 가짜뉴스(Fake News) 비상이 걸렸다.
합성 만화부터 죽은 독재자 채널링까지 감쪽 같은 정보와 뉴스로 유권자들의 오판을 유도하는게 아니냐는 우려가 높아지고 있다.
인도 북부 라자스탄에 거주하는 AI 전문가인 디브옌드라 싱 자도운(Divyendra Singh Jadoun)은 정치 캠페인을 위해 두 가지 종류의 일을 해달라는 요청을 받고 있다.
그는 ABC와의 인터뷰에서 "하나는 자신들이 지지하는 기존 정치인의 이미지를 높이는 것이고, 두 번째는 상대방의 이미지를 훼손하는 것"이라고 말했다.
자도운 씨는 콘텐츠를 번역하고 더빙하는 데 주로 AI 도구를 사용하는데, 이는 인도처럼 언어적으로 다양한 국가에서 매우 중요한 일이다.
그는 "상대 당 대표 얼굴을 술 마시는 행위를 하는 사람으로 바꿔달라는 요청이 있었습니다”고 말했다.
이는 인도 만이 아니다. 전세계의 정치권에서 사용자에게 사실적으로 보이는 가짜 이미지, 비디오 및 오디오를 생성하고 조작할 수 있는 기능을 제공하는 사용하기 쉬운 AI 도구를 통해 세계가 ‘허위 정보의 쓰나미’를 목격하게 될 가능성이 있다고 전문가들은 경고하고 있다.
미국 공화당은 지난 4월 조 바이든 대통령이 재출마를 선언한 뒤 공개된 답변 영상으로 헤드라인을 장식했다.
비트 바이든(Beat Biden)이라는 제목의 이 영상은 바이든 행정부 하의 디스토피아적인 미래를 묘사했다. 이 영상은 전적으로 AI 생성 이미지를 사용한 것이다.
도널드 트럼프의 공화당 경쟁자인 론 디샌티스도 트럼프 대통령이 앤서니 파우치 전 백악관 의료고문을 껴안고 있는 가짜 이미지가 포함된 영상을 사용한 바 있다.
아르헨티나에서는 10월 대통령 선거를 앞두고 이미지 생성 도구를 사용해 캠페인 포스터를 제작했다.
여기에는 후보 세르히오 마사(Sergio Massa)를 위한 캠페인에서 생성된 이미지가 포함되어 있다. 사자 타기를 포함, 영감을 주는 다양한 스타일과 시나리오로 그를 묘사하고 있다.
하비에르 밀레이(Javier Milei)의 지지자들도 생성 AI를 광범위하게 사용했다. 예를 들어 경쟁자인 마싸를 마오쩌둥 스타일의 독재자로 묘사하고 밀레이 자신을 만화 사자로 묘사했다.
올 1월 방글라데시 총선의 경우 야권을 훼손하려는 시도에 오디오 딥페이크와 AI 생성 비디오가 사용됐다.
미국 브루킹스연구소 기술혁신센터의 대럴 웨스트(Darrell West) 선임 연구원은 “제너레이티브 AI는 매우 강력한 AI 알고리즘을 일반인 수준까지 끌어올린다”고 말했다.
그는 “예전에는 AI를 사용하려면 상당한 기술적 배경과 정교한 지식이 있어야 했으나, 이제 AI는 프롬프트 중심, 템플릿 중심이기 때문에 누구나 사용할 수 있다”고 설명했다.
기술을 민주화했지만 기술은 누구의 손에 달려 있으므로 다가오는 선거에서 허위 정보의 쓰나미를 보게 될 가능성이 높다는 진단이다.
전문가들은 인공지능이 더욱 강력해지고 접근성이 높아짐에 따라 다음 미국 선거에서 가짜 주장이 더욱 악화될 가능성이 있다고 말한다.
AI는 선거 행정 과정에서도 사용될 수 있고, 부동 유권자를 표적으로 삼기 위해 무기화될 수도 있다.
대부분의 선거에서는 미결정 투표 수가 상대적으로 적다. 이를 통해 할 수 있는 일은 미결정 유권자를 식별하고 그들이 관심을 갖는 문제나 원인이 무엇인지 파악하고 해당 개인을 설득할 수 있는 표적 메시지를 개발하는 것이다.
사람들은 AI를 사용하여 사람들에게 잘못된 투표소에 가서 잘못된 날에 투표하라고 유도할 수도 있다.
미국에는 투표 명부를 정리하기 위해 AI를 사용하는 일부 주들이 있지만 이는 일부 합법적인 유권자들이 투표에서 쫓겨나 투표할 수 없다는 것을 의미한다.
대만의 최근 선거에 앞서 집권 민주진보당은 중국이 결과에 영향을 미치기 위해 대규모의 잘못된 정보 캠페인을 벌이고 있다고 비난했다.
미국에서는 러시아, 중국, 이란, 북한, 사우디, UAE 및 기타 여러 국가가 이번 선거에 이해관계가 있다.
인도네시아 대통령 선거를 앞두고 AI 콘텐츠는 세 후보의 선거 전략에서 큰 부분을 차지하고 있다.
골카르당은 2008년에 사망한 독재자 수하르토의 전 지도자의 모습을 AI로 제작해 완전히 새로운 연설을 하는 영상을 제작해 논란이 됐다.
AI 수하르토는 "나는 인도네시아의 두 번째 대통령인 수하르토 대통령이다. 골카르 국민의 대표를 선출하도록 여러분을 초대한다"고 말했다.
오클라호마 주립대학교 미디어 및 전략 커뮤니케이션 학부의 누리안티 잘리(Nurrianti Jalli) 교수는 AI가 공식 캠페인에만 사용되는 것은 아니라고 지적했다.
잘리 교수는 "인도네시아에서 AI는 유권자에게 보다 효과적으로 다가가기 위한 정치 캠페인 도구로 활용될 뿐만 아니라 개인이 선거 콘텐츠를 만들기 위해 활용하는 경우도 늘어나고 있다"고 주장했다.
그는 "이러한 AI의 이중 적용은 캠페인 도구이자 시민들이 정치 담론에 참여할 수 있는 수단으로서 정치적 환경에서 AI의 중요성이 커지고 있음을 반영한다"고 덧붙였다.
이전 선거에서 보았던 버저, 밈, 다양한 형태의 소셜 미디어 선전 등을 효과적으로 활용한다면 최신 AI 기술과 그 콘텐츠는 인도네시아 선거 결과에 주목할만한 영향을 미칠 수 있다는 설명이다.
잘리 교수는 “기술 기업이 현지 전문가와 협력하고 현지 뉘앙스와 상황에 따라 정보를 바탕으로 AI 알고리즘과 콘텐츠 조정에 투자하여 잘못된 정보를 감지하고 대응해야 하며, 정부는 문제에 대한 명확한 정책을 수립해야 한다”고 말했다.
yoojin@wikileaks-kr.org
