인공지능(AI)이 의료 분야에서 다양한 영역에 걸쳐 획기적인 발전을 초래할 것으로 기대되고 있는 가운데, 인공지능이 설득력 있는 잘못된 정보를 생성할 수 있다는 우려도 동시에 대두되고 있다. 

AI 전문가들은 딥페이크 기술이 계속 발전하면서 정교한 가짜 이미지, 오디오, 비디오가 생성돼 사실과 허구를 구분하기가 거의 불가능해질 수 있다고 경고하고 있다.

실제로 코로나19 팬데믹으로 인해 백신, 치료법, 마스크 등에 관한 잘못된 정보가 증가하면서 의료 분야에서 허위 정보의 치명적인 위험이 더욱 부각됐다.

딥페이크 확산의 시대에 새로운 공중 보건 위협에 대응하고, 환자의 민감한 데이터를 보호하며, 병원에 대한 사이버 공격 증가에 대응하는 것이 어려워질 수 있다고 전문가들은 주장했다.

이러한 위협이 더욱 커지면 건강 정보가 정치적으로 이용되고 소셜 미디어의 취약성이 더욱 증가할 수 있다는 우려도 나온다. 

미국병원협회의 사이버 보안 및 위험 담당 국가 고문인 존 리기는 "올해 생성형 AI의 폭발적인 발전으로 딥페이크 기술이 예상보다 빠르게 발전하고 보급되고 있다"며 "현재는 이러한 위협이 이론적인 수준이지만, 의료 서비스 분야에서도 이에 대한 대비책을 마련하는 것이 중요하다"고 지적했다. 

과학 커뮤니케이션 및 딥페이크 연구를 주도한 미국 대표 민간조사연구기관인 ‘랜드(RAND Corporation)’의 크리스 도스 정책연구원은 "우리는 이 문제에 대해 경계를 늦추지 말고, 아직 초기 단계에 있는 이 문제를 파악하려고 노력해야 한다”고 강조했다.

미국병원협회는 의료 시스템에 대한 환자 정보와 사이버 방어에 대한 딥페이크의 위험에 대해 경각심을 제기하며 이에 대한 대응이 필요하다고 촉구했다.

이와 관련, 미국 인터넷 매체 액시오스(AXIOS)가 딥페이크에 대한 의료계의 주요 우려 사항들을 소개했다.

잘못된 정보를 차단의 어려움

첫 번째는 딥페이크에 대한 의료계의 주요 우려 사항 중 하나는 잘못된 정보를 차단하기가 더 어려워진다는 점이다.

신뢰할 수 있는 출처에서 나온 것처럼 보이는 허위 이미지와 오디오는 정확한 건강 메시지를 전파하는 데 어렵게 만들며, 합법적인 출처에 대한 대중의 신뢰를 약화시킨다고 전문가들은 경고하고 있다.

특히, 백신 접종을 받지 말라는 내용의 딥페이크 앤서니 파우치 동영상이 대중에게 미치는 영향을 상상해 볼 수 있다.

AI 기술은 허위 정보를 자동화해 대규모로 유포될 수 있게 하므로, 이것이 의료 분야에서 가장 큰 위협 중 하나로 꼽힌다는 것이 전문가들의 설명이다.

의료 서비스 업체 ‘아테나헬스(athenahealth)’의 데이터 과학팀 수석 아키텍트인 헤더 레인은 "바로 이것이 가장 큰 위협"이라고 강조했다.

또한, 더 그럴듯한 피싱 공격이 우려된다는 전문가들의 목소리가 높아지고 있다. 의료 보험사나 의사로 위장한 전화와 메시지는 사기꾼이 환자의 금융 또는 건강 정보를 훔치는 도구로 이용될 수 있다.

이러한 상황에서는 환자들이 실제 의료 전문가와의 소통을 식별하는 데 어려움을 겪을 수 있으며, 이는 개인 정보 보호와 금전적 손실에 이르는 다양한 리스크를 야기할 수 있다고 전문가들은 경고하고 있다. 

더 효과적인 사이버 공격

해커들은 병원 CEO나 다른 알려진 인물의 목소리를 모방해 생성된 오디오로 병원 데스크에 전화를 걸어 새로운 비밀번호를 요청할 경우도 있다고 전문가들은 지적했다.

이는 정보 시스템에 침입할 수 있다는 뜻으로 딥페이크 기술을 통해 의료 시스템에 미치는 위협의 한 측면으로 나타날 수 있다는 것이다.

의료 업계에서는 딥페이크를 비롯한 생성형 AI의 장점에 대해 여전히 매우 낙관적인 면도 있다.

ChatGPT의 초기 연구에 따르면, 이러한 기술은 의사보다 더 공감할 수 있는 답변을 제공할 수 있는 것으로 나타났다고 전문가들은 말하고 있다.

연구자들은 딥페이크가 AI의 얼굴 감정 인식을 개선하고, 더 나아가 인공 환자를 만들어 질병 치료를 위한 새로운 분자를 설계하는 데 도움을 줄 수 있다고 제안했다.

이러한 접근법은 의료 분야에서의 혁신과 진화를 도모하는 데 기여할 수 있을 것으로 예상된다고 전문가들은 설명했다.

딥페이크 전문가일수록 식별 능력 감소

과학적 커뮤니케이션에서 개인이 딥페이크를 얼마나 잘 식별할 수 있는지에 대한 랜드의 연구는 이 기술에 대한 두려움을 완화하는 데 도움이 되지 않다.

과학 분야에서 일하는 사람들조차도 기후 정보를 전달하는 딥페이크 비디오의 메시지에 속아 넘어갔다.

특히 딥페이크에 더 많이 노출된 사람일수록 딥페이크를 식별하는 능력도 떨어졌다는 전문가들의 의견도 있다.

크리스 도스 연구원은 "딥페이크가 확산됨에 따라 사람들은 경험을 통해 딥페이크를 더 잘 골라낼 수 있게 될 것이라고 생각한다“며 "그러나 우리 연구에 따르면 그렇지 않을 수도 있고, 사실 그 반대가 될 수 있다”고 말했다.

[위키리크스한국=유 진 기자]

yoojin@wikileaks-kr.org

유 진 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브