'빠르게 영역을 넓혀가는 인공지능(AI)의 폐해를 차단하라!' 

AI 관련 기술이 급격하게 발전하고 확산되는 가운데, 각국의 정책 입안자들은 효과적인 AI 규제와 법률 마련에 분주하게 움직이고 있다.

노스이스턴 대학 법학 교수인 마이클 베넷은 2024년에 예상되는 변화를 분석했다. 인간의 능력에 근접한 방식으로 사고하고 추론하는 AI에 대한 아이디어는 수세기 동안 지속된 주제였다. 고대 문화권에서는 이 아이디어를 표현하고 추구하기도 했다.

20세기 초 공상 과학 소설은 이 개념을 구체화하기 시작했다. '오즈의 마법사'와 '메트로폴리스'와 같은 작품들은 전 세계 관객들에게 큰 반향을 일으켰다.

1956년 존 매카시와 마빈 민스키가 주최한 다트머스 하계 인공지능 연구 프로젝트에서 '인공지능'이라는 용어가 처음 소개됐다. 이후 50년 동안 인공지능의 발전과 열기는 주춤했지만, 디지털 시대가 도래하면서 인공지능은 기술 현실로 확실히 이동했다.

2000년대 초, 투자자들은 AI 시스템의 역량을 가속화하고 심화시키기 위해 기계 학습에 중점을 두고 막대한 자금을 투자했다.

2023년에는 생성형 인공 지능 시스템이 대중의 담론에서 보편화됐다. 기업들은 OpenAI의 ChatGPT-4 및 기타 대규모 언어 모델을 이해하고 구현하기 시작했다.

이러한 AI 도구는 프로세스 효율성 향상, 인적 오류 감소, 비용 절감 등 여러 이점을 제공했다.

당연히 각국 정부는 AI 규제에 집중하고 있다. 소비자 보호, 시민의 자유, 지적 재산권, 공정한 비즈니스 관행 등은 AI 규제에 관심을 갖는 이유를 대부분 설명한다.

AI의 단점으로부터 시민을 보호하는 것만큼 중요한 것은 AI의 패권을 차지하기 위한 정부 간 경쟁이다. 정부는 AI 기업이 번창할 수 있는 예측 가능하고 탐색 가능한 규제 환경을 조성해야 한다고 전문가들은 말하고 있다.

전문가들은 사실상 각국 정부는 AI 규제의 어려움에 직면해 있다. 한편으로는 대규모 AI 구현의 실제적인 단점으로부터 시민을 보호하고, 다른 한편으로는 복잡하고 역동적인 AI 충격파에 대비해 거버넌스 체제를 설계해야 한다고 말했다.

이는 균형이 기술의 발전을 저해하지 않으면서도 이루어져야 한다는 것을 뜻한다.

미국 내 AI 시스템 규제 동향: 연방 정부의 적극적인 대응

AI 도구가 빠르게 진화하고 채택되는 가운데, AI 규정과 규제 제안도 AI 애플리케이션만큼이나 빠르게 확산되고 있다.

미국에서 거의 모든 수준의 정부는 AI 개발을 촉진하는 동시에 AI로 인한 사회적 폐해를 억제하기 위한 새로운 규제 보호와 관련 프레임워크 및 정책을 구현하기 위해 적극적으로 노력하고 있다.

연방 규제에 있어서 AI 위험 평가는 현재 연방 정부의 최우선 과제로 떠올랐다. 미국 의원들은 알고리즘이 어떻게 만들어지고 특정 결과에 도달하는지 이해하기 어렵다는 점에 특히 민감하게 반응하고 있다.

이른바 블랙박스 시스템으로 인해 위험을 완화하거나 프로세스를 매핑하고 시민에게 미치는 영향을 문서화하기 어렵다는 인식이 팽배하다.

이러한 문제를 해결하기 위해 현재 알고리즘 책임법(H.R. 5628, S.2892)이 의회에서 논의되고 있다. 이 법안이 통과될 경우 주택, 의료, 교육, 고용, 가족 계획 및 개인 생활 영역과 관련된 중요한 의사 결정에 생성적 AI 시스템을 사용하는 기관은 알고리즘 사용 전후에 시민에게 미치는 영향을 파악해야 할 것이다.

딥페이크 책임법(DEEP FAKE Accountability Act, H.R. 3230)과 디지털 서비스 감독 및 안전법(Digital Services Oversight and Safety Act, H.R. 6796) 역시 의회를 통과하여 법으로 시행될 경우, 기업은 각각 생성형 AI가 만든 '허위 개인화'와 허위/오류 정보의 생성 및 공개에 대해 투명하게 공개할 것을 요구받게 될 것이다.

하지만 가장 중요한 국내 연방 조치는 2023년 10월 바이든 행정부가 발표한 '안전하고 안전하며 신뢰할 수 있는 인공 지능의 개발 및 사용에 관한 행정명령(E.O.) 14110'이다.

이 행정명령은 백악관의 AI 권리장전 청사진과 미국 국립표준기술연구소에서 공표한 AI 위험 관리 프레임워크를 기반으로 하며, 책임감 있는 AI 배포 및 사용을 장려하기 위한 정부의 노력에 새로운 차원의 적극성을 부여한다.

연방 기관의 사용, 국내 산업 규제, 같은 생각을 가진 국제 파트너와의 협력에 초점을 맞춘 이 행정명령은 규제의 야망을 8개의 개별 목표로 표현한다.

이에는 AI 채택 증가에 따른 위험 완화, 소규모 비즈니스 창업자에 대한 관심, 근로자 보호, AI 편향성 모니터링 및 완화, 소비자 보호, 데이터 및 프라이버시 강화, 연방 정부에서의 AI 사용에 대한 감독 및 보호 장치 강화, 그리고 AI의 글로벌 거버넌스에서 미국의 리더십 확보가 포함된다.

미국 주 및 시 규제에서도 활발한 움직임이 있다. 캘리포니아, 코네티컷, 텍사스, 일리노이주는 연방 정부처럼 혁신을 장려하는 동시에 AI의 단점으로부터 주민을 보호하기 위한 노력을 기울이고 있다. 콜로라도는 생명보험회사가 AI 알고리즘을 사용하는 데 있어 특정 요건을 부과하는 알고리즘 및 예측 모델 거버넌스 규정을 통해 더욱 진보적인 접근을 취하고 있다.

뉴욕시는 자동화된 고용 결정 도구에 초점을 맞춘 지방법 144를 통해 선도적인 역할을 하고 있다. 이는 인적 자원 활동의 맥락에서 사용되는 AI에 관한 것이다. 미국의 다른 도시들도 머지않아 뉴욕시의 선례를 따를 전망이다.

글로벌 AI 규제 동향: 유럽부터 아시아까지

유럽에서 AI 거버넌스의 주요 원천은 유럽연합의 인공지능법이다. 이 법의 주요 목표는 고위험 관련 AI 애플리케이션을 만들거나 사용하는 개발자가 시스템을 테스트하고, 사용을 문서화하며, 적절한 안전 조치를 취해 위험을 완화하도록 요구하는 것이다.

EU AI 법은 2024년 말 또는 2025년 초에 제정될 것으로 예상되며, 27개 회원국에 적용될 예정이다. EU AI 법은 유럽을 넘어 전 세계에 상당한 규제 반향을 일으킬 가능성이 높다.

중국 사이버 공간 관리국은 현재 중국 본토 거주자에게 제공되는 서비스를 규제하는 '생성형 인공 지능 서비스에 대한 행정 조치' 제안에 대한 대중의 의견을 구하고 있다.

캐나다 의회는 현재 각 주와 테리토리에서 인공지능 관련 법률을 조율하기 위한 인공지능 및 데이터 법안을 논의 중이며, 특히 위험 완화 및 투명성에 중점을 두고 있다.

미주와 아시아에서는 최소 8개의 다른 국가가 AI 규제를 위한 자체 규제 접근법을 개발하는 다양한 단계에 있다.

기업을 위한 AI 규제: 대비해야 할 잠재적 영향

전문가들은 위에서 언급한 관할권 중 하나 이상에 위치하거나 해당 관할권에서 비즈니스를 수행하거나 인재를 찾고 있는 기업에게 이러한 규제 발효의 중요성을 두 가지 제시했다.

첫째, 기업들은 향후 12~18개월 동안 모든 주요 관할권 및 모든 수준의 정부에서 새로운 규제 제안 및 시행 법률이 지속적으로, 그리고 아마도 더 빠른 속도로 등장할 것으로 예상해야 한다.

그 중 가장 중요한 것은 EU AI 법안일 가능성이 높지만, 주 또는 지방 자치 단체 차원의 국내 조치도 영향을 미칠 수 있다.

이러한 규제 활동의 급증은 비즈니스의 복잡성 증가와 규정 준수 비용 증가로 이어질 가능성이 매우 높다.

특히 규제가 심한 산업에서는 직장 내 규정 준수와 고객 및 고객과의 관계에서 규정 준수를 보장하기 위해 새로운 전문 지식과 AI 법률 전문가의 정기적인 업데이트가 필요할 것이다.

까다로운 문제는 AI 정책과 기존 규정 간의 잠재적인 상호 작용일 가능성이 높다. 예를 들어, 미국 연방거래위원회는 엔터프라이즈 AI에 대한 과장된 주장을 단속하겠다고 밝혔다. 기업들은 새로운 알고리즘에 기존 법률이 어떻게 적용되는지 특히 유의해야 한다.

기업들은 다양한 유형의 AI 사용 인증에 대한 법적 요건이 곧 일반화될 것임을 고려해야 한다. 신뢰할 수 있는 공급업체나 공인 인증업체를 찾는 것은 새로운 법률 준수뿐만 아니라 소비자에게 안전성을 알리고, 비즈니스 보험사에 AI 위험을 효과적으로 관리하고 있다는 것을 증명하는 데 필수적이다.

AI 규제의 미래는 험난한 길이 될 것이라고 전문가들은 말했다. 미션에 집중하고, 과대광고에 현혹되지 않으며 AI를 수용하는 동시에 양질의 법률 자문을 구하고 이를 효과적으로 실행하는 기업은 좋은 성과를 거둘 것이라고 덧붙였다.

[위키리크스한국=유 진 기자]

yoojin@wikileaks-kr.org