[월드 프리즘] AI가 양산하는 저품질 가짜뉴스 콘텐츠에 글로벌 기업들이 광고

자동화된 프로그래마틱 광고를 통한 수익 창출을 위해 저품질의 AI가 만든 콘텐츠가 양산되는 것이 경고 수준에 이를 정도라고 야후뉴스가 보도했다.

게다가 미국의 비영리 가짜뉴스 추적 기관 뉴스가드(NewsGuard)의 보고에 따르면, 이러한 비즈니스 모델이 효과를 보고 있다는 것이다.

보고서에 따르면, 141개가 넘는 글로벌 브랜드들이 무의식적으로 AI가 쉽게 양산한 무수한 콘텐츠를 지원하고 있다.

뉴스가드는 이들 브랜드들의 이름을 밝히지는 않았지만, 주요 은행 및 금융 서비스 기관 6곳, 세계 최고의 테크 기업 2곳, 실리콘밸리 디지털 플랫폼 한 곳이 포함돼 있다고 했다.

뉴스가드의 애널리스트 로렌조 아바니티스는 테크 매체 MIT 테크놀로지 리뷰(MIT Technology Review)에 “프로그래마틱 광고가 이러한 AI 생성 웹사이트들의 주요 수익원인 것으로 보인다. 우리는 포춘 500대 기업들과 유명 브랜드들 중 수백 곳이 이러한 사이트에 자신들도 모르게 광고를 하고 있다는 것을 밝혀냈다”고 말했다.

즉, 인터넷의 유용성의 파괴가 증가하고 있으며, 이러한 파괴의 이면에 있는 이들의 수익은 늘어나고 있다고 야후 뉴스는 전했다.

이것이 심각하게 우려할 만한 일임을 말해주는 몇 가지 요소들이 있는데, 먼저 소비자용 AI 도구들의 급증이 이러한 사이트들과 콘텐츠를 쉽게 만들 수 있도록 한다는 것이다.

오픈AI의 챗GPT 같은 AI 프로그램들은 품질을 별로 고려하지 않는 일반 대중들을 상대로 한 방대한 규모의 텍스트를 쉽게 생성할 수 있다.

이러한 시스템의 수행량은 가히 어마어마한데, 뉴스가드에 따르면, 이들 웹사이트는 하루에도 수백 개의 콘텐츠를 생성해낸다고 한다. 최근 뉴스가드가 발견한 어느 AI 콘텐츠 양성 사이트는 가짜 인용구와 가짜 정보로 가득했는데, 경고 수준으로 기사들을 뽑아내고 있다.

또한 대형 중견 기업들의 광고가 저품질의 가짜뉴스 웹사이트들의 어두운 현실들을 정당화하고 흐릿하게 만든다는 것도 우려해야 될 사실이다.

그러나 가장 위험한 것은 AI 스팸 비즈니스 모델에 타당성을 부여하는 데 구글이 중앙에서 역할하고 있는 것이라고 야후 뉴스는 지적했다. 뉴스가드에 따르면, 이러한 웹사이트들의 광고의 90% 이상이 구글 애드를 통해서 제공되는 것들이다.

디지털 광고 시장에서 지배적인 구글이 AI가 양산하는 콘텐츠에 광고를 붙여주는 역할을 한다는 것은 구글과 구글 이용자들에게 위험한 일이라고 야후 뉴스는 보도했다.

구글의 정책 커뮤니케이션 책임자 마이클 아시만은 MIT 테크 리뷰에 “우리에게는 우리 플랫폼에서 수익을 만드는 콘텐츠를 관리하는 엄격한 정책이 있다”라고 말했다.

그는 AI 생성 콘텐츠 제작이 정책 위반은 아니라면서, “예를 들어, 우리는 광고가 유해한 콘텐츠, 스팸, 또는 저품질의 콘텐츠, 다른 사이트를 그대로 베낀 콘텐츠에 실리지 않게 하고 있다. 이러한 정책을 시행할 때, 우리는 콘텐츠가 어떻게 만들어졌는가보다 품질에 집중하고, 위반을 발견하면 광고를 차단하거나 삭제한다”라고 말했다.

그는 “또한 우리는, 악의를 가진 자들은 항상 접근법을 바꾸고 생성형 AI 같은 기술을 이용해 우리의 정책과 시스템을 피하려고 한다는 것을 인지하고 있다”라고 덧붙였다.

그러나 뉴스가드의 보고를 통해 구글이 광고 정책, 특히 스팸 및 저품질 콘텐츠 관리에 훨씬 많은 노력을 쏟아부어야 한다는 것을 알 수 있다고 야후 뉴스는 시사했다.

뉴스가드의 편집자 잭 브루스터는 MIT 테크 리뷰에 “뉴스가드의 발견은, 구글과 광고 기술 기업들, 뉴스 사이트로 가장한 새로운 가짜뉴스 사이트들의 부상, AI 양산 콘텐츠 사이의 관계에 있는 우려점을 보여줬다. 프로그래마틱 광고의 불투명성은 대형 브랜드들이 무의식적으로 신뢰할 수 없는 AI 생성 사이트로 광고비가 가도록 만들면서 자신들도 모르게 후원자가 되게 만든다”고 말했다.

구글 같은 테크 기업들이 생성형 AI 도구들을 계속 개발하는 한편, 이 도구들은 자신들을 만든 기업들의 수익에 반하는 곳에 이용되는 역설적인 현실이 나타나고 있는 것이다.

[위키리크스한국 = 최정미 기자]

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기