일론 머스크는 AI의 위험성을 경고해 온 것으로 유명하다. 그런데 지난달 어번던스 서밋(Abundance Summit)의 토론에서 머스크는 AI의 위험에 대한 자신의 평가를 이전과 다르게 부분 수정했다.

그는 “AI가 인류를 멸망시킬 가능성이 일부 있다고 생각한다. AI의 대부 제프 힌튼이 10% 또는 20% 가능성이 있다고 말한 것에 동의한다”라고 말했다. 그러면서 “긍정적인 시나리오가 부정적인 시나리오보다 크다고 생각한다”라고 덧붙였다.

그러나 위험 가능성을 어떻게 계산한 것인지는 말하지 않았다.

루이빌대학교의 사이버보안연구소 소장이자 AI 안전 연구원인 로만 얌폴스키는 매체 비즈니스 인사이더에, AI가 현존하는 인류 위협이라는 머스크의 말은 맞지만, 그의 AI에 대한 위험 평가 수치가 지나치게 낮다고 말했다.

얌플로스키는 “실제 p(doom)는 훨씬 더 크다고 생각한다”라고 말했다. ‘p(doom)’은 AI가 인류를 통제하거나, 새로운 생화학 무기를 만들거나, 사이버 공격, 핵전쟁을 일으키는 등으로 인류를 멸망시키는 ‘파멸의 가능성(probability of doom)’을 수치화 한 것을 말한다.

뉴욕타임즈는 (p)doom을 실리콘밸리를 휩쓸고 있는 ‘무시무시한 새로운 통계’라고 했다. 여러 전문가들이 제시한 AI로 인한 대재앙의 가능성을 0%에서 100%까지로 평가했는데, 또 다른 AI 대부 얀 르쿤의 평가는 소행성의 지구 충돌 가능성보다 적은 0.01%이며, 얌플로스키는 99.999999%라고 소셜미디어 X를 통해 말했다.

그는 진보된 AI는 통제하기가 불가능하기 때문에 애초에 이를 만들지 않는 것이 유일한 희망이라며, “머스크가 왜 이 기술 개발을 멈춰야 한다고 생각하는지는 확실히 모르겠으나, 경쟁자들이 선점하는 것에 대해 우려해서 그런 것이라면, 누가 만들든 통제 안 되는 슈퍼지능은 똑같이 위험하다”라고 말했다.

사실 지난 11월 머스크는 AI가 결국 위험해질 가능성이 전혀 없는 것은 아니라고 했지만, 인류 종말로 갈 수 있다고까지는 말하지 않았다. 머스크는 AI 규제를 지지하고 있으면서도, 인공지능 개발회사 xAI를 설립한 그는 AI 능력을 더 확장시키는 데 매진하고 있다.

어번던스 서밋에서 머스크는 2030년까지 디지털 지능이 모든 인간 지능을 넘어설 것이라고 추정했다. 그는 긍정적인 면이 부정적인 것보다 더 크다면서도 AI가 지금의 속도로 계속 발전된다면 세상에 위협이 될 수 있다는 것을 인정했다.

그는 “AGI(범용인공지능)를 키우는 것은 지능이 신과 같이 뛰어난 아이를 키우는 것과 같다. 아 아이를 어떻게 키우느냐가 중요한 것이다. AI 안전성에 대해 내가 매우 중요하게 생각하는 것 중에 하나는 최대한 진실을 추구하고 호기심이 많는 AI를 만드는 것이다”라고 말했다.

또한 머스크는 AI 안전성을 위한 최고의 방법에 대한 궁극적인 결론은 AI가 진실되도록 키우는 것이라며, “진실이 불편할지라도 거짓말을 하도록 하면 안 된다. 이는 매우 중요하다”라고 말했다.

매체 인디펜던트는, AI가 일단 인간에게 거짓말을 하는 것을 배우게 되면, 현재의 AI 훈련 안전조치를 이용해 속이는 행동을 바꾸는 것은 불가능하다고 나타난 연구 결과에 대해 보도한 바 있다.

또한 보도에 따르면, 이 연구를 통해 AI가 거짓말하는 것을 훈련으로 배우는 것보다 스스로 터득하게 될 수 있다는 것도 나타났다. 

힌튼은 CNN에 “AI가 우리보다 훨씬 더 똑똑해지면, 인간을 조정하는 것에 능해질 것이다. 더 지능적인 것이 덜 지능적인 것에 의해 통제되는 예는 없다”라고 말했다.

[위키리크스한국 = 최정미 기자] 

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브