인류의 산업 과학기술 영역에서 지난해 새로운 패러다임이 열린 인공지능(AI) 영역에서 올해 훨씬 더 놀라운 혁신이 예상되고 있다.

인공지능은 수십 년간 발전해 왔지만, 최근 오픈 AI의 챗GPT와 같은 대중적인 AI 모델의 등장으로 인해 기술은 고도로 실용적이고 접근 가능해졌다. 그러나 이러한 기술의 발전은 곧바로 성공적인 결과로 이어지지 않을 것이며, 여전히 많은 실패와 도전이 잇따를 것이라고 전문가들은 말하고 있다.

AI의 혁신은 주로 의료 진단, 과학적 발견 등의 분야에서 진행됐다. 예를 들어, 엑스레이 스캔을 분석해 폐암 발병 위험을 감지하거나, 코로나19 기간 동안 기침 소리를 분석해 바이러스 진단 알고리즘을 개발하는 등의 응용이 있었다. 또한, AI는 양자 물리학 실험 설계와 같이 인간이 어려워하는 작업에도 사용됐다.

하지만 이러한 긍정적인 발전과는 별개로, 새해에는 몇 가지 무서운 AI 혁신이 예상되고 있다고 과학 매체 ‘라이브사이언스’(live science)가 진단했다.

Q*(Q-star)와 AGI의 도래

OpenAI의 CEO인 샘 알트먼이 해고됐다가 지난해에 다시 복직된 가운데, 미국 로이터 통신은 Q*라 불리는 OpenAI 시스템이 특이한 능력을 지닌 인공 일반 지능(AGI)을 구현할 수 있는 가능성이 있다고 보도했다.

이 시스템에 대한 정보는 매우 제한적이지만, 이것이 사실이라면 AI의 능력을 급격히 향상시킬 것으로 전문가들은 예상하고 있다.

현재의 AI 세대는 인간의 창의성과 문맥 기반 추론에서는 아직도 한계가 있다.

그러나 AGI는 인간의 대부분의 작업을 뛰어넘을 수 있는 더 높은 수준의 지능을 의미하고 있다. 이러한 AGI가 개발되면 강화된 병원체 생성이나 대규모 사이버 공격, 무기화된 사용 등 다양한 영역에서 사용될 수 있을 것으로 예측된다.

엔비디아의 CEO를 비롯한 몇몇 전문가들은 AGI가 다가올 5년 이내에 현실화될 것으로 예측하고 있다. 이는 AI 기술의 급격한 발전이 기대되는 2024년에 대한 중요한 흐름이 될 것이라는 평가다.

이러한 혁신은 새로운 가능성을 제공하지만, 동시에 윤리적인 문제와 안전 문제에 대한 고민도 함께 끌어올릴 것으로 예상된다. 2024년이 이러한 미래를 어떻게 형성할지에 대한 질문은 계속해서 논의되고 있다.

선거를 조작하는 초현실적 딥페이크

가장 시급한 사이버 위협 중 하나는 딥페이크다. 사람을 완전히 조작한 이미지나 동영상으로 허위사실을 유포하거나 명예훼손, 괴롭힘을 가하는 행위다. AI 딥페이크 기술은 아직 심각한 위협이 될 만큼 충분히 발전하지 못했지만, 곧 상황이 바뀔 수 있다고 전문가들은 예측하고 있다.

AI는 이제 실시간 딥페이크, 즉 라이브 비디오 피드를 생성할 수 있으며, 이제 사람들이 더 이상 진짜와 가짜를 구분할 수 없을 정도로 사람의 얼굴을 생성하는 데 능숙해지고 있다. 한 연구에서는 AI가 생성한 콘텐츠가 실제 콘텐츠보다 '진짜'로 인식될 가능성이 더 높은 '하이퍼리얼리즘' 현상을 발견했다.

이렇게 되면 사람들이 육안으로 사실과 허구를 구별하는 것이 사실상 불가능해진다. 딥페이크 탐지 도구가 딥페이크 탐지에 도움이 될 수 있지만, 아직은 대중화되지 않았다.

예를 들어, 인텔은 AI를 사용해 혈류를 분석하는 방식으로 작동하는 실시간 딥페이크 탐지기를 개발했다. 하지만 AI 전문가에 따르면 페이크캐처는 알려진 바와 같이 엇갈린 결과를 낳았다.

생성형 AI가 발전함에 따라 사람들이 선거를 조작하기 위해 딥페이크를 배포할 수 있다는 무서운 가능성도 있다. 이는 방글라데시가 1월에 실시되는 선거에서 딥페이크가 선거를 방해할 수 있다며 가능성을 제시했다. 

미국이 올해 11월 대선을 앞두고 있는 가운데, AI와 딥페이크가 이 중요한 투표의 결과를 바꿀 수 있는 가능성이 있다. 예를 들어, UC 버클리 대학은 이미 선거운동에서 AI 사용을 모니터링하고 있으며, 많은 주에서 AI로 생성된 허위 정보의 급증에 대처할 수 있는 법률이나 도구가 부족하다고 전문가들은 설명했다. 

전쟁에서 활용범위 확대되는 인공지능

전 세계 정부가 전쟁 도구에 AI를 점점 더 많이 도입하고 있다. 미국 정부는 군대에서의 책임 있는 AI 사용에 관한 선언을 지지했다고 발표했다.

이러한 선언이 필요한 이유는 무엇일까. '무책임한' 사용은 실제적이고 무서운 전망이기 때문이다. 실제로, 리비아에서 사람의 개입 없이 군인을 사냥하는 AI 드론이 그 예시다.

AI는 패턴을 인식하고, 스스로 학습하고, 예측하거나, 군사적 맥락에서 추천을 생성할 수 있으며, 이미 AI 군비 경쟁이 진행되고 있다. 2024년에는 무기 시스템 뿐만 아니라 물류 및 의사 결정 지원 시스템, 연구 개발 분야에서도 AI가 활용될 가능성이 높다고 전문가들은 주장했다.

예를 들어, 2022년에 AI는 4만 개의 새로운 가상 화학무기를 생성했다. 미군의 여러 부대는 인간보다 더 뛰어난 표적 인식과 전투 추적을 수행할 수 있는 드론을 주문했다. 이스라엘 역시 최근 이스라엘과 하마스 간의 전쟁에서 AI를 사용해 인간보다 50배 이상 빠르게 표적을 식별했다고 전문가들은 설명했다.

그러나 가장 두려운 개발 분야 중 하나는 치명적인 자율 무기 시스템(LAWS), 즉 킬러 로봇의 개발이다. 스티븐 호킹과 일론 머스크를 비롯한 여러 과학자와 기술자들이 킬러 로봇에 대해 경고했지만, 아직 이 기술이 대규모로 실현되지는 않았다.

하지만 올해가 킬러 로봇의 원년이 될 수 있다는 우려스러운 전망도 있다. 예를 들어, 원자 과학자 회보의 보고서에 따르면 러시아는 우크라이나에 사람의 개입 없이도 목표물을 인식하고 공격할 수 있는 드론을 배치한 것으로 알려졌다.

호주 역시 대규모로 생산될 예정인 자율 잠수함 시스템인 고스트 샤크를 개발했다.

전 세계 국가들이 AI에 지출하는 금액도 지표가 되는데, 데이터에 따르면 중국은 2010년 1,160만 달러였던 AI 지출을 2019년까지 1억 4,100만 달러로 늘릴 것이라고 전망됐다.

인공지능으로 인해 인류의 전쟁도 예측할 수 없는 상황으로 치닫고 있다는 분석이다.

[위키리크스한국=유 진 기자]

yoojin@wikileaks-kr.org

유 진 기자 다른기사 보기

• facebook
• 트위터
• 카카오톡
• 네이버블로그
• 유튜브