[AI 인사이드] 인공지능이 만들어내는 가짜 법률 분쟁, 세계 법정의 새로운 도전

인공지능(AI)이 만들어내는 유명인들의 노골적인 딥페이크 영상과 이미지가 세계를 혼란에 빠뜨리고 있다. AI는 음악, 무인 경주용 자동차, 허위 정보 유포 등 다양한 분야에 영향을 미치는 상황이다.

AI가 법률 시스템에도 큰 영향을 미친다는 사실은 놀라운 일이 아니다.

법원은 법률에 따라 분쟁을 판단해야 하며, 변호사는 의뢰인의 사건의 일부로 법원에 제출하는 법률 근거로 판단을 해야 한다.

이러한 상황에서 인공지능이 만든 가짜 법률이 법적 분쟁에 이용되는 것은 매우 우려스러운 일이다.

이는 적법성과 윤리 문제를 야기할 뿐만 아니라 글로벌 법률 시스템에 대한 믿음과 신뢰를 약화시킬 수 있다.

인공지능이 만들어낸 가짜 소송이 실제 법정에 진출하면서 비참한 결과를 초래하고 있다는 사실은 법률계와 기술계 모두에게 경종을 울리고 있다.

인공지능의 발달이 가져온 이러한 도전은, 법률 전문가들과 기술 개발자들에게 새로운 윤리적 고민과 책임을 부여하고 있다고 전문가들은 말하고 있다.

이러한 기술의 부작용에 대응하기 위한 새로운 법률적, 윤리적 지침의 마련이 시급한 상황이다.

가짜 법은 어떻게 만들어지나

생성 AI가 법률 시스템의 여러 측면을 포함해 사회를 변화시킬 잠재력을 가진 강력한 도구라는 것은 의심의 여지가 없다. 하지만 그 사용에는 책임과 위험이 따른다고 전문가들은 경고하고 있다.

변호사들은 전문 지식과 경험을 신중하게 적용하도록 훈련받았으며, 일반적으로 큰 위험을 감수하지 않는다. 그러나 일부 부주의한 변호사(및 자기 대리 소송인)는 인공지능에 의해 적발되기도 한다.

AI 모델은 방대한 데이터 세트를 학습한다. 사용자의 지시에 따라 새로운 콘텐츠(텍스트 및 시청각 콘텐츠 모두)를 생성할 수 있다.

이렇게 생성된 콘텐츠는 매우 설득력 있게 보일 수 있지만, 부정확할 수도 있다. 이는 학습 데이터가 불충분하거나 결함이 있을 때 AI 모델이 부족한 부분을 채우려고 시도한 결과로, 일반적으로 ‘환각’이라고 불린다.

어떤 상황에서는 생성형 AI 환각이 문제가 되지 않는다. 실제로 창의성의 한 예로 볼 수도 있다.

그러나 AI가 환각을 일으키거나 부정확한 콘텐츠를 만들어 법적 절차에 사용한다면, 특히 변호사의 시간 압박과 많은 사람들이 법률 서비스를 이용하지 못하는 상황에서 이는 문제가 된다.

이러한 강력한 조합은 법률 조사 및 문서 준비 과정에서 부주의와 편법을 초래해 법률 업계의 평판 문제와 사법 행정에 대한 대중의 신둥 부족을 야기할 수 있다.

이미 일어나고 있는 일

생성형 인공지능(AI)의 사용이 증가함에 따라, 법률 시스템에서의 그들의 영향력은 점점 더 심각한 결과를 초래하고 있다.

가장 잘 알려진 사례 중 하나는 2023년 미국에서 발생한 마타 대 아비앙카 사건으로, 변호사들이 챗 GPT를 사용해 작성한 가짜 발췌문과 판례 인용이 포함된 요약서를 뉴욕 법원에 제출한 사건이다.

챗 GPT가 환각을 일으킬 수 있다는 사실을 인지하지 못한 변호사들은 해당 사건이 실제로 존재하는지 확인하지 못했다.

이로 인해 오류가 발견되자 법원은 의뢰인의 소송을 기각하고, 변호사에게는 제재를 가하며, 벌금을 부과하고, 그들의 행동을 대중에게 폭로했다.

비슷한 상황은 도널드 트럼프의 전 변호사였던 마이클 코헨과 관련된 사례에서도 발견된다.

코헨은 Google Bard가 생성한 자신의 변호사 사례를 제공했으며, 그는 이 사례들이 진짜라고 믿었지만 실제로는 아니었다. 그의 변호사는 이 사건들을 미국 연방법원에 제출한 서류에 포함시켰다.

최근 캐나다와 영국에서도 비슷한 가짜 사건이 발생했다. 이러한 추세가 계속된다면, 생성 인공지능의 부주의한 사용이 법률 시스템에 대한 대중의 신뢰를 심각하게 훼손할 수 있다고 전문가들은 시사하고 있다.

이는 변호사들이 이러한 도구를 사용할 때 지속적으로 주의를 기울이지 않으면 법원을 오도하고 혼잡하게 만들고, 의뢰인의 이익을 해치며, 법치를 약화시킬 수 있다는 것이다.

이에 대해 어떤 조치가 취해지고 있나

전 세계 법률 규제 기관과 법원들이 생성형 인공지능(AI) 사용과 관련해 다양한 대응을 보이고 있다.

미국의 여러 주 법원과 법원은 책임감 있는 사용부터 전면적인 금지에 이르기까지 이러한 AI 도구 사용에 대한 지침, 의견 또는 명령을 발표했다.

영국과 브리티시 컬럼비아의 법률 협회, 뉴질랜드 법원 등도 자체 가이드라인을 개발하고 있다.

호주에서는 뉴사우스웨일스 변호사 협회와 빅토리아 법률 연구소가 변호사를 위한 생성 AI 가이드를 제공하고, 변호사의 행동 규칙에 따라 책임감 있는 사용에 관한 기사를 발표했다.

일반인과 마찬가지로 많은 변호사와 판사들이 생성형 AI에 대한 일정 수준의 이해를 가지고 있으며, 그 한계와 장점을 인식하고 있을 것이다.

그러나 이에 대한 이해가 부족한 이들도 있을 수 있으며, 이러한 상황에서 지침은 분명 도움이 될 것이다.

호주에서는 법원이 소송에서 인공지능을 사용할 때 지켜야 할 기대 사항을 명시하는 실무 지침이나 규칙을 채택할 필요가 있다.

이러한 법원 규칙은 자기 대리 소송 당사자들에게도 안내가 되며, 법원이 이 문제를 인식하고 해결하고 있음을 대중에게 알릴 수 있다.

또한 법조계는 변호사의 책임감 있는 AI 사용을 장려하기 위해 공식적인 지침을 채택할 수 있다.

각국에서 최소한 기술 역량은 변호사의 지속적인 법률 교육의 필수 요건이 돼야 한다.

변호사들이 책임감 있고 윤리적인 인공지능 사용에 대한 명확한 요건을 설정함으로써 적절한 채택을 장려하고 변호사, 법원 및 호주 사법 행정 전반에 대한 대중의 신뢰를 강화할 수 있을 것이라는 지적이다.

[위키리크스한국= 유 진 기자]

yoojin@wikileaks-kr.org

유 진 기자 다른기사 보기