미국의 학부모 단체가 틱톡에 진짜 사람처럼 보이는 AI 인플루언서들에 대한 확실한 표시를 붙일 것을 요구했다. 

22일(현지시간) NBC뉴스에 따르면 미성년 인터넷 안전 정책을 옹호하는 미국의 비영리 단체 페러언츠투게더(ParentsTogether)는 틱톡 CEO 츄쇼우지에게 AI 인플루언서들에 대한 우려를 표하는 청원서를 보냈다. 이 가상 인플루언서들의 외모가 어린이 및 청소년 들에게 비현실적인 미의 기준과 과장된 체형에 대한 이미지를 심어준다는 것이다.

1만2천명 멤버의 이 단체는, 가상 인플루언서들은 수 년 전부터 있어 왔지만, 최근 생성형 AI가 폭발적으로 발전하면서 일반적인 소셜미디어 이용자들, 특히 아이들이 진짜와 인공으로 만들어진 콘텐츠를 구분하는 게 더 어려워졌다고 말하고 있다. 

지난 해 초, 틱톡은 크리에이터들에게 AI 생성 콘텐츠에는 표시를 하도록 요구했다. 그러나 페어런츠투게더의 캠페인 소장 셸비 녹스는, 표시가 되어 있지 않은 영상들이 여전히 있고, 프로필을 확인하지 않으면 AI 콘텐츠인지 구분이 안 가기 때문에, 틱톡의 조치가 충분하지 않다고 말했다.

프로필을 통해 AI 인플루언서임을 밝히지만, 콘텐츠나 캐릭터 자체에 ‘#aiinfluencer’ 같은 해시태그 등으로 뚜렷하게 명시하고 있지 않는 경우가 허다하다고 한다. 

녹스는 “산업에서 ‘이 사람은 진짜가 아니다’라고 분명히 말하는 가상 인플루언서를 보통의 아이들이 인지할 거라고 확신할 수 없다. 이들 기업들이 틱톡을 통해 돈을 벌고 있고, 위험한 문화를 만드는 것에 기여하고 있기 때문에, 이러한 계정과 영상 들에 지속적으로 눈에 띄는 표시를 하는 방법을 찾아내는 데 틱톡에 책임이 있다고 본다”라고 말했다.

틱톡 측은 이메일을 통해 페어런츠투게더가 신고한, 체형을 과장해서 보이는 영상들을 올린 AI 인플루언서 계정 3개를 삭제했다고 했다.

틱톡은 “우리는 AI가 열 수 있는 창조성을 환영하지만, AI 이용이 투명하지 않을 때의 위험성을 인식하고 있다. 우리는 창조성의 권한을 부여하며 이용자들을 보호하는 안전을 위한 사전적인 노력을 다하고 있다”라고 하며, 비정상적인 섭식 및 체중 감량 행위들을 보여 주거나 장려하는 콘텐츠를 금지하고 있다고 덧붙였다.

AI의 투명성과 관련한 문제들은 이전부터 있어 왔고, 틱톡에만 국한된 문제는 아니지만, 아이들이 방과 후 소셜미디어에 심취해 있는 시간이 더 많아지면서 최근 들어 부모들이 AI 인플루언서와 관련된 문제를 인식하기 시작했다고 녹스는 말했다. 처음 문제가 제기됐을 때, 페어런츠투게더에 종사하고 있는 사람들조차 진짜 사람과 가상 인플루언서를 구분할 수 없었다고 한다. 

NBC의 보도에 따르면, 어느 AI 인플루언서는 팔로워가 12만 7천 명이며, 비키니 및 속옷 차림의 콘텐츠 조회 수가 수백만 회에 이르는데, AI라고 명시된 게시물은 하나도 없으며, 외모를 찬사하는 댓글이 수백 개지만 AI임을 인식하는 듯한 글을 없다.

또 팔로워가 7만 명 이상인 또 다른 AI 계정은 20대 초반 대학생으로 보이는 가상의 여성이 노래하고 춤추는 모습을 지속적으로 올리고 있다고 한다.

부모들은 특히 아이들에게 가장 인기 있는 틱톡과 유튜브 같은 플랫폼들에 대해 우려하고 있다고 녹스는 말했다. 

유튜브 측 역시 비정상적 섭식을 미화하는 콘텐츠를 금지하고 있으며, 어린이 및 청소년 들의 웰빙을 지지하기 위해 사외 전문가들과 협력하고 있다며,“예를 들어, 우리는 미국 내 청소년들을 위해 신체 특징을 비교하고, 특정 체형이나 체중을 이상화 하는 콘텐츠 추천을 제한하고 있다”라고 입장을 밝혔다고 한다.

인스타그램에서도 가상 인플루언서들의 활동이 활발하며, 이들은 기업의 홍보 모델로도 활동하고 있다. 이런 공인 크리에이터들은 AI라고 명시되긴 하지만, 그럼에도 익숙하지 않은 이용자들은 진짜 사람과 이들들 구분하지 못한다.

녹스는 “소셜미디어가 젊은 사람들에게 위험이 됐다. 부모들이 이 모든 문제들을 다루고 있으며, ‘바뀌어야 한다. 빅테크가 우리 아이들에게 접근하고 있고, 우리는 규제가 필요하다’라고 한 목소리를 내고 있다”라고 말했다.

[위키리크스한국 = 최정미 기자]

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브