AI가 생성한 테일러 스위프트 합성 음란성 이미지들이 소셜미디어 X에 확산되고 있어 문제가 되고 있는 가운데, 이와 같은 AI 생성 음란 이미지 확산이 최근 소셜미디어 플랫폼들에게 골칫거리로 불거지고 있다.

어느 포스트는 플랫폼 정책 위반으로 삭제되고 계정이 폐쇄되기 전까지 약 17시간 동안 조회수 4천 5백만 이상에, 리포스트 2만 4천, ‘좋아요’와 북마크 수십만을 기록했다. 

그 사이 이 이미지는 다른 계정을 통해 재게시되며 확산되고 있다. 뿐만 아니라 여러 다른 이미지들이 여전히 쏟아져 나오고 있다. 심지어 용어 ‘테일러 스위프트 AI’는 인터넷 상의 트렌드가 됐다.

온라인 IT 전문 매체 404 미디어(404 Media)는 테일러 스위프트 이미지들이 최초에 한 특정 텔레그램 단체를 통해 나왔을 것이라고 보도했다.

이들이 AI 이미지 생성 툴인 마이크로소프트 디자이너(Microsoft Designer)를 이용해 만든 노골적인 AI 생성 여성 이미지들을 공유하고 있는데, 스위프트 이미지들이 X에 퍼지면 어떨까하는 장난의 대화가 있었다는 것이다.

X의 정책은 합성되거나 조작됐으며 당사자의 동의 없는 노출 이미지들을 금지하고 있다. 한편, 스위프트 측은 아직 공식적인 입장을 내놓지 않고 있는 것으로 보이고 있다.

스위프트의 팬들은 X가 이런 포스트들이 많이 남아 있게 만들고 있다고 비난하고 있다. 또한 가짜 이미지들에 사용된 해시태그들을 대거 스위프트의 진짜 공연 클립들에 붙여 가짜들을 밀려나게 하는 방법으로 응수하고 있다고 한다.

가짜 스위프트 이미지 사건은 AI 생성 딥페이크 음란물을 막는 것이 매우 어렵다는 것을 보여주는 것이라고 매체 더 버지(The Verge)는 말했다. 일부 AI 이미지 생성 툴들은 유명인들의 사진을 이용한 음란성 이미지가 만들어지는 것을 막아놓고 있지만, 그렇지 않은 것들이 많다. 이런 상황인 만큼 가짜 이미지의 확산을 막는 책임이 소셜미디어 플랫폼들에게 떨어졌지만, 쉽지 않다.

현재 X는 불법 콘텐츠와 가짜뉴스 전파에 이용되고 있다는 비판과 함께, 특히 이스라엘-하마스 전쟁에 관한 가짜뉴스들과 관련해 유럽연합의 디지털서비스법 위반 조사를 받고 있다.

[위키리크스한국 = 최정미 기자]

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브