세계적인 정계 및 재계 인사 수십 명이 전 세계 지도자들에게 인공지능과 기후위기의 현존하는 위험 문제를 다루라고 촉구하고 있다.
버진 그룹의 대표 리처드 브랜슨과 전 UN 사무총장 반기문, 물리학자 로버트 오펜하이머의 손자 찰스 오펜하이머를 포함한 이들은 높아져가는 기후변화, 팬데믹, 핵무기, 통제되지 않는 AI의 위험을 막기 위한 행동을 촉구하는 공개서한에 서명했다.
서한에는 세계의 지도자들이 다루기 어려운 문제들을 해결하기 위한 장기적인 전략과 결의, 과학적 증거와 근거에 기반한 결정을 하는 지혜, 위기에 영향을 받는 모든 이들에게 귀기울이는 겸손을 수용해 달라는 메시지가 담겨 있다.
또한 화석연료에서 벗어나기 위한 자금 투입, 공정한 팬데믹 조약 합의, 핵무기 회담 재개, AI를 선을 위한 힘으로 만들기 위해 필요한 글로벌 거버넌스 등의 다각적인 행동을 촉구했다.
이 공동 서한은 세계 인권 문제들을 다루고 세계 평화를 지지하기 위해 전 남아공 대통령 넬슨 만델라와 브랜슨이 발족한 비정부 기관 엘더스(The Elders)를 통해 지난 목요일 공개됐다.
이들의 메시지는 또한 MIT 우주학자 맥스 테크마크와 스카이프 공동 설립자 얀 탈린이 AI 같은 혁신 기술이 생명을 위한 것으로 나아가도록 하기 위해 세운 비영리 기관 ‘생명의 미래 연구소(Future of Life Institute)’의 지원도 받고 있다.
테그마크는 CNBC와의 인터뷰에서, AI 자체가 악은 아니더라도 나쁜 사람들의 손에서 빠르게 발전하게 된다면 심각한 결과를 초래할 수 있는 도구이기 때문에 엘더스와 생명의 미래 연구소가 그런 메시지를 전달하고 싶었다며, “새로운 기술을 좋은 곳에 쓰이도록 하기 위한 전략들은 항상 실수로부터 배워 왔다. 우리는 불을 발명하고, 그 다음에 소화기를 만들었다. 자동차를 발명하고 실수를 통해 배워 안전벨트와 신호등, 속도제한을 만들었다”라고 말했다.
그는 또한 “그러나 이미 문턱을 넘어섰을 때는 실수가 참담하게 될 것이다. 우리는 사람들을 달로 보내면서 사람들을 폭발할 수 있는 연료 탱크 안에 넣어 아무도 이들을 도울 수 없는 곳에 보낼 때 잘못될 수 있는 모든 것을 신중하게 생각했다. 그렇기 때문에 궁극적으로 잘 된 것이다. 이는 재앙적 운명론이 아닌 안전공학의 문제이다. 우리는 미래를 위해 핵무기, 합성생물학, AI에 이러한 안전공학이 필요하다”라고 덧붙였다.
서한은 전 세계 정부 각료들과 군 지도자들, 외교관들이 세계적으로 고조되고 있는 전쟁 위기 속에 국제 안보를 논하는 뮌헨 안보 컨퍼런스(Munich Security Conference)에 보내졌다.
생명의 미래 연구소는 지난 해에도 테슬라 CEO 일론 머스크, 애플 공동 설립자 스티브 워즈니악 등과 함께, GPT-4를 능가하는 AI 모델 훈련을 멈춰야 한다고 오픈AI 등의 AI 연구소들에 보내는 공동 서한을 공개한 바 있는데, 일자리가 대거 사라지고 기계가 인간을 능가하면서 문명의 통제가 사라지는 것을 막기 위해 AI 개발을 중단해야 한다는 내용이었다.
[위키리크스한국 = 최정미 기자]
prtjami@wikileaks-kr.org
