"최근 몇 년 동안 조작된 정보를 퍼뜨리기 위한 인공지능 사용이 증가하고 있다." (미 보안기업 맨디언트·Mandiant)

18일(현지시간) 로이터에 따르면 구글의 자회사인 맨디언트는, 2019년 이후 조작된 AI 생성 콘텐츠가 정치적으로 온라인 캠페인에 사용되는 일들이 매우 많아졌다는 것을 발견했다. 여기에는 러시아, 중국, 이란, 에티오피아, 인도네시아, 쿠바, 아르헨티나, 멕시코, 에콰도르, 엘살바도르 정부들과 관련된 조직들이 펼치는 온라인 캠페인들이 포함됐다고 한다.

최근 열풍을 일으키고 있는 챗GPT 같은 생성형 AI 모델들은 사실 같은 가짜 영상, 이미지, 텍스트, 컴퓨터 코드를 매우 쉽게 만들 수 있다. 따라서 이런 시스템이 사이버 범죄에 악용될 수 있다고 전문가들은 경고하고 있다.

맨디언트 연구원들은 생성형 AI는 자원이 한정된 조직들이 대중들에게 대대적인 영향을 끼치는 고품질의 캠페인 콘텐츠를 만들 수 있게 해준다고 말했다. 다행히 그 효과 면에서는 아직까지 제한적이라고 한다.

맨디언트 부사장 산드라 조이스는 로이터와의 인터뷰에서, 친중 온라인 캠페인 조직인 드래곤브릿지(Dragonbridge)가 2019년 홍콩의 민주주의 시위자들을 타겟으로 시작, 30개의 소셜미디어 플랫폼에서 10개의 언어로 활동할 정도로 급격하게 커진 것을 예로 들었다.

그러나 아직 이런 캠페인의 영향은 제한적이라고 한다. 조이스는 “효율성 측면에서 보면, 아직까지 많이 성공하지 못했다. 이들은 아직까지 위협의 양상을 바꾸지 않았다”라고 말했다.

미국은 이러한 중국의 온라인 캠페인을 비난하고 있고, 중국은 이에 대해 부인하고 있다.

맨디언트는 아직까지 러시아, 이란, 중국, 북한 등의 디지털 위협에 AI가 핵심적인 역할을 하는 것으로 보이지 않는다고 말했다. 가까운 시일 내에 디지털 침해를 위해 AI를 이용하는 일이 일어날 가능성은 낮다고 이들은 말하고 있다.

조이스는 “지금까지 AI가 이용된 곳에 대해 사고 대응이 발생한 적은 한 건도 없었다. 이들은 우리가 아는 보통의 프로그램들로 할 수 있는 것을 능가하는 어떠한 것의 실질적인 사용을 하지 않았다”라고 말했다.

그러면서 “시간이 지나면 더 큰 문제가 될 거라는 것은 확실하다”라고 덧붙였다.

[위키리크스한국 = 최정미 기자]

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브