메타(페이스북)의 콘텐츠 정책에 자살·자해 예방을 조언하는 한 심리학자가, 빅테크 메타가 인스타그램 상의 유해 콘텐츠에 “눈을 감고 있다”고 폭로하며, 회사를 떠났다고, 17일(현지 시각) <가디언>이 보도했다. 특히 이 심리학자는, 메타가 유해 콘텐츠에 보다 취약한 여성에게 위험한 콘텐츠에 “눈을 돌리고 있다”고 비난했다.

3년 넘게 메타(Meta) 콘텐츠를 자문하는 글로벌 전문가 그룹에서 일을 했던 로테 루백 박사는 <옵저버>와의 인터뷰에서 빅테크 기업인 메타가 자사 플랫폼에서 자해 이미지를 효과적으로 제거하지 못하면서 이에 취약한 젊은 여성과 소녀들이 자해를 하도록 “유도”하고, 자살 증가에 한몫하고 있다고 주장했다.

덴마크 출신의 심리학자인 루백 박사는 자신이 일했던 메타의 의지 부족에 환멸을 느끼고 회사가 사용자의 안녕과 안전에 관심이 없다고 주장하면서 사임했다. 그녀는, 실제로 메타는 기업의 이익을 위해 콘텐츠에 취약한 젊은이들을 유혹하며 유해 콘텐츠를 활용하고 있다고 주장했다.

“저는 메타의 SSI(Surgical Site Infection) 전문가 패널에서 사임합니다. 우리의 주장이 귀하의 플랫폼에서 어린이와 청소년의 안전에 더 이상 긍정적인 영향을 못한다고 믿기 때문입니다.”

그녀는 사직 이유서에서 이렇게 말했다.

루백 박사는 <옵저버>와의 인터뷰에서 “표면적으로는 메타가 전문가 그룹 등을 배치하면서 유해 콘텐츠에 관심을 갖고 있는 것처럼 보이지만, 이면에는 그들이 더 높은 우선순위를 매기는 또 다른 의제가 있습니다.”라고 말했다. 

그 의제는 “사용자의 상호 작용을 유도하고 사용자를 화면에서 떠나지 못하도록 붙잡으면서 사용자로부터 데이터를 수집하고 데이터를 판매하는 등의 방법으로 돈을 버는 것”이라고 그녀는 주장했다.

이에 대해 메타의 대변인은 “자살과 자해는 복잡한 문제이며 우리는 이를 매우 심각하게 받아들이고 있습니다. 우리는 수년 동안 자살 및 자해 자문 그룹을 포함한 안전 전문가들의 자문을 받아왔습니다. 그 결과 전문가들의 피드백은 우리가 이 분야에서 중요한 진전을 이루는 데 도움이 되었습니다.”라고 밝혔다.

“가장 최근에는, 우리는 문제가 되는 자살 및 자해 콘텐츠를 일부 십대 팔로워가 공유하더라도 이를 숨기겠다고 밝힌 바가 있습니다. 이는 전문가 그룹과 신중한 논의를 거쳐 결정된 많은 성과 중 하나입니다.”

대변인은 이렇게 덧붙였다.

루백 박사의 경고는 지난주에 발표된 Ofcom(영국의 방송통신 통합 규제 기구)의 새로운 연구 결과와 함께 나와 더욱 주목을 끌고 있다. Ofcom은 영국 아동들이 폭력적인 온라인 콘텐츠를 더 이상 “피할 수 없으며”, 이들 중 상당수는 초등학교 시절부터 노출된다고 밝히고 있다. 인스타그램은 Ofcom이 보고서 작성을 위해 인터뷰한 사람들이 언급한 주요 앱 중 하나였다.

덴마크 수도 코펜하겐에서 아동·청소년 정신 건강 분야에서 자해 연구팀을 이끌고 있는 루벡 박사는 2020년 12월에 메타로부터 24명으로 구성된 전문가 그룹에 합류해달라는 제안을 처음 받았다. 이 제안은 당시에는 페이스북으로 알려진 이 플랫폼을 그녀가 공개적으로 비판한 후 이루어졌었다. 당시 그녀는 덴마크 방송사 ‘DR’이 노르웨이와 덴마크 젊은 여성들의 자살과 인스타그램이 관련이 있다는 다큐멘터리를 방송한 뒤 이 문제를 두고 메타를 강력히 비판했었다.

그랬기 때문에 루백 박사는 젊은이들이 더 안전하게 인스타그램을 이용할 수 있도록 개선하는 데 도움이 되고자 전문가 그룹 참여에 동의했다. 그러나 그녀의 제안이 몇 년 동안 계속 무시되자(그녀가 비판했던 원래 콘텐츠는 여전히 존재함) 그녀는 전문가 패널이 단지 쇼를 위한 전시행정에 불과했다는 결론에 도달했다.

지금은 그녀는 자신을 초대한 메타의 의도에는 자신의 입을 막으려는 의지가 숨어있었을 수도 있다고 믿는다. 

“어쩌면 그들은 나의 비판적 태도를 누그러뜨리면서 자신들과 합류하기를 원했을지도 모릅니다.”

<옵저버>가 확인한 이메일에서 루백 박사는 2021년 10월 메타에게 사용자가 유해 이미지를 플랫폼 관리자에 알려주는 데에 어려움을 겪고 있다는 우려를 전달한다. 그녀는 메타의 북유럽 공공 정책 책임자인 마틴 루비에게 보낸 이메일에서, 생기를 잃어가는 여성의 이미지를 담당자에게 전달할 수 없다고 지적했는데, 관련 업무를 담당할 직원이 충분하지 않다는 답변을 받는다. 그 이미지는 그 뒤로도 플랫폼 상에 그대로 남아있었다.

이와 관련해 루비는 2021년 11월 “우리는 이를 면밀히 주시하고 있지만 이는 그렇게 단순한 문제가 아닙니다”라고 답한다. 이와 함께 그는 같은 이메일에서 루백 박사가 원래 비판했던 비밀 인스타그램 네트워크를 언급하면서 회사는 이 문제를 “자세히 살펴보고 있다”고 답한다.

하지만 자살 방지 안내문이 잘 링크되어 있기는 하지만 이 비밀 네트워크는 오늘날에도 계속 운영되고 있다고 루백 박사는 주장한다.

루백 박사는 현재 자신의 환자들로부터 인스타그램에 자해 이미지를 신고했지만 계속 남아 있는 경우가 많다는 소리를 듣고 있다. 한 환자는 자해 이미지 하나를 발견해 신고한 뒤 사라지기는 했지만, 나중에 친구의 계정을 통해 또 볼 수 있었다고 말하면서 해당 이미지가 자신의 시야에서만 사라졌을 뿐이라고 말하기도 했다. 이와 관련해 루백 박사는 메타는 콘텐츠를 제거하기 위해 “다양한 트릭을 사용한다”고 밝혔다.

“AI는 매우 영리해서 사진에서 작은 젖꼭지까지 찾아냅니다.” 

그녀는 이렇게 지적하면서 그러나 자해를 유도하는 영감을 준다고 입증된 콘텐츠의 경우에는 이야기가 다른 것 같다고 덧붙였다.

[위키리크스한국 = 최석진 기자]

dtpchoi@wikileaks-kr.org

최석진 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브