딥페이크 등 인공지능(AI)을 이용한 합성 이미지나 영상들이 늘어나면서 많은 사람들이 영상이나 사진을 직접 보고도 못 믿는 세상이 왔다.

에바 크럼허버 유니버시티 컬리지 런던대 교수, 자카리 위트코우어 암스테르담대 교수 등 5명의 호주, 유럽 대학 연구진이 ‘더컨버세이션(The Conversation)’에 인공지능(AI)이 만들어낸 얼굴이 실제 사람보다 더 진짜처럼 보일 수 있다는 논문을 게재해 주목을 끌고 있다.

인공지능이 놀라운 수준의 현실감에 도달했으며, 일부 도구는 심지어 사람들이 다른 사람과 상호작용하고 있다고 착각할 수 있을 정도라고 전문가들은 평가했다.

실제로 챗 GPT와 같은 모델을 사용하면 그 자연스러움으로 다른 사람과의 대화에서 섬뜩한 느낌을 줄 수 있다는 것이다.

최근 사이콜로지컬 사이언스(Psychological Science)에 발표된 한 논문에서도 최근 널리 사용되는 스타일GAN 2(StyleGAN2) 알고리즘으로 생성된 얼굴 이미지가 실제 얼굴보다 더 '인간적'으로 비춰지는 것으로 분석됐다.

초현실적인 얼굴을 만들어내는 AI

연구를 위해 124명의 참가자에게 다양한 흰색 얼굴 사진을 보여주고 각 얼굴이 실제 얼굴인지 AI가 생성한 얼굴인지 판단하도록 요청했다.

사진의 절반은 실제 얼굴이고, 절반은 AI가 생성한 얼굴이다. 참가자들이 무작위로 추측했다면 동전을 던지면 절반은 꼬리가 나오는 것과 같이 절반 정도는 정답을 맞출 것으로 예상할 수 있다고 전문가들은 말했다.

하지만 참가자들은 체계적으로 틀리며, AI가 생성한 얼굴이 진짜라고 응답할 확률이 더 높았다고 결과가 나왔다.

평균적으로 사람들은 AI가 생성한 얼굴 3개 중 약 2개를 실제 얼굴로 오인했다.

이러한 결과는 AI가 생성한 얼굴이 실제 얼굴보다 더 사실적으로 비춰진다는 '하이퍼리얼리즘' 효과를 시사하고 있다고 전문가들은 설명했다. 더불어 평균적으로 사람들이 AI가 생성한 얼굴을 제대로 식별하지 못한다는 결과를 보여주는 것이라고 덧붙였다.

그러나 사람들은 자신의 한계를 잘 알기 때문에 온라인에서 AI가 생성한 얼굴에 속지 않을 가능성이 높을지에 대한 궁금증이 있다고 전문가들은 말했다.

이를 알아보기 위해 연구 참가자들에게 자신의 결정에 대한 자신감을 물었다. 역설적으로, AI 사기꾼을 가장 잘 식별하지 못하는 사람들이 자신의 추측에 가장 자신감을 가지는 결과가 나왔다.

즉, AI에 속기에 가장 취약한 사람들은 자신이 속고 있다는 사실조차 인지하지 못하고 있다는 것이다.

편향된 학습 데이터로 편향된 결과물 제공

AI, 로봇 공학, 첨단 컴퓨팅과 같은 기술을 포함하는 4차 산업혁명은 온라인에서 볼 수 있는 '얼굴'의 풍경을 현격하게 변화시켰다고 전문가들은 말했다.

AI로 생성된 얼굴은 용이하게 입수할 수 있으며, 이러한 사용은 위험과 이점을 모두 내포하고 있다. 이는 실종 아동을 찾는 데 도움이 되는 경우도 있지만, 신원 사기, 캣피싱, 사이버 전쟁과 같은 부정적인 용도로도 악용되고 있다.

전문가들은 AI 얼굴 인식 능력에 대한 사람들의 잘못된 신뢰는 사기 행위에 취약하게 만들 수 있다며, 특히 초현실적인 AI 신원을 사용한 사이버 범죄자가 민감한 정보를 쉽게 획득할 수 있는 우려가 있다고 경고했다.

또한, AI 초현실주의의 다른 우려스러운 측면은 인종적으로 편향돼 있다는 점이다. 특정 연구에 따르면, 아시아계와 흑인 얼굴을 테스트한 결과, 백인 AI가 생성한 얼굴만이 초현실적으로 보이는 경향이 나타났다는 것이 전문가들의 설명이다.

유색인종 얼굴이 사람인지 AI가 생성한 얼굴인지 판단하라는 질문에 대해 참가자들은 무작위로 추측하는 것과 비슷하게 절반 정도만 정확하게 맞혔다. 이는 AI가 생성한 흰색 얼굴이 유색 인종 얼굴이나 흰색 사람 얼굴보다 더 사실적으로 비춰진다는 의미라고 전문가들은 주장했다.

편견과 초현실적 AI의 의미

전문가들은 인종적 편견이 주로 AI 알고리즘이 대부분 백인 얼굴 이미지로 학습되는 경향에서 비롯된 것으로 보여진다고 설명했다.

알고리즘 학습의 인종적 편향은 현실에서 심각한 영향을 미칠 수 있다. 최근 연구에 따르면 자율주행차가 흑인을 감지할 가능성이 낮아 백인보다 더 큰 위험에 처할 수 있다는 우려가 있다.

이에 따라, 인공지능을 개발하는 기업과 이를 감독하는 정부는 인공지능이 다양성을 반영하고 편견을 완화할 수 있도록 노력해야 한다고 전문가들은 목소리를 내고 있다.

또한, AI로 생성된 콘텐츠의 사실성에 대한 의문이 제기되고 있다. 전문가들은 연구를 통해 백인 AI 얼굴이 사실적으로 보이게 하는 특징을 확인했다.

예를 들어, 이목구비가 비례적이고 친숙한 경우가 많으며, 다른 얼굴과 비교했을 때 독특한 특징이 뚜렷하지 않다.

이러한 특징은 참가자들이 '인간다움'의 신호로 잘못 해석되어 하이퍼리얼리즘 효과를 초래했다.

전문가들은 AI 기술의 빠른 발전으로 인해 이러한 결과가 언제까지 유효한지 계속해서 주목할 필요가 있다고 주장했다.

연구 결과 발표 이후, AI 얼굴을 식별하는 AI 감지 기술의 능력도 테스트했다. 이 기술은 연구에서 사용한 특정 유형의 AI 얼굴을 높은 정확도로 식별한다고 주장했지만, 인간 참가자만큼 성능이 좋지 않았다고 밝혔다.

마찬가지로, AI 필체를 감지하는 소프트웨어도 특히 영어가 모국어가 아닌 사람을 부정행위자로 오인하는 비율이 높았다고 전문가들은 설명했다.

AI의 위험 관리

전문가들은 AI가 생성한 콘텐츠를 신뢰성 있게 구분하기 위해선 여러 가지 방법이 필요하다며 아래와 같이 설명했다.

먼저, 사람들은 자신의 한계를 잘 이해하고 인식해야 한다. AI가 생성한 얼굴과 실제 얼굴을 구분하는 능력이 부족한 만큼, 온라인에서 정보를 받을 때 신중함이 필요하다.

스스로의 한계를 인식하면서 중요한 정보일 경우 추가적인 조치를 통해 정보를 검증하는 습관을 길러야 한다고 전문가들은 주장했다.

다음 전문가들은 공공 정책의 강화도 중요하다며, AI 사용을 신고하는 시스템을 도입하는 것이 한 가지 방법이 될 수 있다고 말했다. 그러나 이는 항상 효과적이지 않을 뿐더러, AI의 악용이나 기만적 사용에 대응하기 어려울 수 있다고 덧붙였다.

또 다른 접근 방식은 신뢰할 수 있는 출처를 인증하는 것이다. '호주산'이나 '유럽 CE 태그'와 같이 엄격한 확인을 거쳐 획득한 신뢰할 수 있는 출처 배지를 도입함으로써, 사용자는 더욱 안전하고 신뢰할 수 있는 정보를 선택할 수 있다는 것이다. 

이러한 방식을 통해 사용자는 신뢰할 수 있는 미디어와 정보를 구분하고, 인공지능이 생성한 콘텐츠에 대한 신뢰도를 높일 수 있다고 전문가들은 설명했다.

[위키리크스한국=유 진 기자]

 

yoojin@wikileaks-kr.org