세계보건기구(WHO)는 인공지능(AI)이 생성한 대형 언어 모델 도구(LLM)를 사용해 인간의 안녕과 인간 안전, 자율성을 보호하고 증진하고 공중 보건을 보존하는 데 주의를 기울여야 한다고 촉구했다.
LLM에는 챗GPT, 바드, 버트와 같은 가장 빠르게 확장되는 플랫폼 중 일부와 인간의 의사소통을 이해하고 처리하고 생산하는 것을 모방하는 많은 다른 플랫폼이 포함된다.
그들의 급격한 대중 확산과 건강 관련 목적을 위한 증가하는 실험적 사용은 사람들의 건강 요구를 지원할 수 있는 잠재력을 중심으로 상당한 흥분을 불러일으키고 있다.
LLM을 사용하여 건강 정보에 대한 액세스를 개선하거나, 의사 결정 지원 도구로 사용하거나, 사람들의 건강을 보호하고 불평등을 줄이기 위해 자원이 부족한 환경에서 진단 능력을 향상시킬 때도 위험을 주의 깊게 검토해야 한다는 것이다.
WHO는 의료 전문가, 환자, 연구자 및 과학자를 지원하기 위해 LLM을 포함한 기술의 적절한 사용에 열광하고 있지만, 일반적으로 새로운 기술에 대해 행사될 수 있는 주의가 LLM과 일관되게 행사되지 않고 있다는 우려가 있다.
여기에는 투명성, 포함, 공공 참여, 전문가 감독 및 엄격한 평가라는 핵심 가치를 광범위하게 준수하는 것이 포함된다.
테스트되지 않은 시스템을 성급하게 채택하면 의료 종사자의 오류를 초래하고 환자에게 해를 끼치고 AI에 대한 신뢰를 잠식하여 전 세계적으로 이러한 기술의 잠재적인 장기적 이익과 사용을 저해(또는 지연)할 수 있다.
기술이 안전하고 효과적이며 윤리적인 방식으로 사용되기 위해서는 엄격한 감독이 필요하다는 우려는 다음과 같다:
- AI 교육에 사용되는 데이터는 편향되어 건강, 형평성 및 포괄성에 위험을 초래할 수 있는 오해의 소지가 있거나 부정확한 정보를 생성할 수 있다.
- LLM은 최종 사용자에게 신뢰할 수 있고 신뢰할 수 있는 것처럼 보일 수 있는 응답을 생성한다. 그러나 이러한 응답은 특히 건강 관련 응답의 경우 완전히 부정확하거나 심각한 오류를 포함할 수 있다.
- LLM은 이러한 사용에 대해 사전에 동의가 제공되지 않았을 수 있는 데이터에 대해 교육을 받을 수 있으며, LLM은 사용자가 응답을 생성하기 위해 애플리케이션에 제공하는 민감한 데이터(건강 데이터 포함)를 보호하지 않을 수 있다.
- LLM은 대중이 신뢰할 수 있는 건강 콘텐츠와 구별하기 어려운 텍스트, 오디오 또는 비디오 콘텐츠의 형태로 매우 설득력 있는 허위 정보를 생성하고 배포하기 위해 잘못 사용될 수 있다.
인간의 건강을 개선하기 위해 AI와 디지털 건강을 포함한 새로운 기술을 활용하는 데 전념하는 동안, WHO는 정책 입안자들이 환자의 안전과 보호를 보장하고 기술 회사들이 LLM을 상용화하기 위해 노력할 것을 권고한다.
WHO는 개인, 의료 제공자 또는 보건 시스템 관리자와 정책 입안자가 일상적인 의료 및 의약품에 광범위하게 사용하기 전에 이러한 우려를 해결하고 유익성에 대한 명확한 증거를 측정할 것을 제안한다.
WHO는 건강을 위한 AI를 설계, 개발 및 배치할 때 건강을 위한 AI의 윤리 및 거버넌스에 대한 WHO 지침에 명시된 대로 윤리적 원칙과 적절한 거버넌스를 적용하는 것이 중요하다고 거듭 강조한다.
(1) 자율성 보호, (2) 인간 복지, 인간 안전 및 공익 증진, (3) 투명성, 설명 가능성 및 정보성 보장, (4) 책임 및 책임 육성, 포괄성 및 형평성 보장, (6) 대응력과 지속 가능한 AI 촉진.
WHO가 제시하는 6가지 핵심 원칙이다.
yoojin@wikileaks-kr.org
