개인정보 보호·AI 데이터 안전 활용 정책방향 등 수립
대화형 AI(인공지능) 챗봇 챗GPT의 등장으로 전 세계가 분주하다. 유수 기업들은 챗GPT를 신성장 동력으로 꼽으며 관련 사업 개발에 발 빠르게 나서고 있다. 우리나라 정부도 대규모 예산 투입을 공개하고 초거대 AI 개발 의지를 알리며, 챗GPT의 최대 취약점인 개인정보 보호 대응 방침까지 내세웠다. IT 강국 명성을 재입증할지 관심이 모인다.
17일 업계에 따르면, 챗GPT의 가장 큰 취약점은 개인정보 및 민감한 정보 유출 문제다. 최근 챗GPT 사용을 허용한 삼성전자 반도체 부문 회사에서는 몇 건의 사고가 발생한 것으로 전해졌다. 프로그램 오류 목적으로 입력한 정보가 챗GPT 서버로 넘어갈 수 있는 이유에서다. 단순 입력만으로도 주요 정보가 유출될 수 있는 가능성이 제기된 것이다.
정부는 '개인정보 보호 원칙'을 명확히 세울 방침이라고 밝혔다. 개인정보보호위원회는 올해 6월까지 데이터 수집·AI 학습·서비스 제공 등 전 과정에서 준수해야 할 개인정보 보호원칙과 데이터 처리기준을 제시한다는 계획이다. 아울러, AI 학습 시 적절한 가명처리 기준을 제시하고 영상 및 음성 등 비정형 데이터의 가명처리 방법도 안내한다.
지난 3월 개인정보보호법 전면 개정으로 자신의 데이터를 원하는 곳으로 전송해 주도적으로 관리할 수 있는 개인정보 전송요구권이 도입된 데 따른 후속 전략도 6월까지 수립한다고 한다. 개인정보 전송요구권 행사를 보장하기 위한 세부 제도를 수립하고 온라인 플랫폼과 핵심 인프라 구축에도 역량을 강화할 것으로 보인다.
또 다른 챗GPT의 문제점은 '신뢰도'다. 최신 정보가 학습되지 않았을 경우, 어떤 질문에는 오답을 내놓는다. 모든 질문에 대한 답변이 완벽하지 않다는 의미다. 최근 한 언론사의 '윤석열은 누구입니까'란 질문에, 챗GPT는 "2018년부터 2021년까지 경기도지사직을 지낸 한국의 정치인"이라고 답하기도 했다.
정부는 최신 정보 미반영·거짓 답변 등 초거대 AI 한계를 극복하기 위한 기술개발도 병행 추진한다. 더해 논리적 인과관계 이해, 편향적 필터링 등의 기술도 연구한다. 여기에, 정부는 초거대 AI 컴퓨팅 인프라 기술도 개발하고 대용량 컴퓨팅 지원을 제공할 예정으로 알려졌다.
정부는 취약점 보완과 함께 챗GPT와 같은 AI를 활용해 초거대 AI 개발에 앞장선다. 대통령 직속 디지털플랫폼정부위원회와 과학기술정보통신부 및 개인정보보호위원회는 올해 6월까지 'AI 데이터 안전 활용 정책방향' 수립 계획을 공개했다. 정부의 문서와 보도자료 등의 학습을 바탕으로 복지, 민원 업무 전반에 적용하겠다는 것이 정부의 청사진이다.
구체적으로 과기정통부는 ▲민간 초거대 AI 개발 및 고도화를 지원하는 기술·산업 인프라 확충 ▲초거대 AI 산업 혁신 생태계 조성 ▲범국가 AI 혁신 제도 및 문화 정착 등을 추진한다. 또, 정부는 더 나아가 비영어권 시장 공략을 꾀하고 있다. 동남아와 중동 등 지역의 언어 데이터를 오는 2027년까지 200종을 구축한다.
긴 시간 막대한 데이터를 보유하고 있는 우리나라 의료 부분 등 전문 분야를 중심으로 한 AI 분야에서 주도권을 쟁취하겠다는 전략도 내비쳤다. 이종호 과기정통부 장관은 "민간 기업이 주도하고 정부가 지원하는 초거대 AI 협력 생태계를 구축해 의료, 법률, 상담 등 분야의 AI 응용 서비스를 고도화하겠다"라고 강조했다.
산업계 곳곳에는 부작용이 발생하고 있어 정부의 신속한 대응책 마련이 요구된다. 교육계에서는 챗GPT를 활용한 논문 및 과제 대필 등 문제가 발발하고 있다. 학생들의 사고력을 저해한다는 지적도 이어졌다. 이에 몇몇 국가들은 일부 챗GPT 사용 제한에 나섰다. 미국 뉴욕시는 지난 1월부터 공립학교에서의 챗GPT 접근을 차단하겠다고 공언했다.
항상 기술의 성장은 명(明)암(暗)이 공존했다. 기술은 인간과 사회의 발전에 있어 뗄래야 뗄 수 없는 관계이기도 하다. 챗GPT와 같은 AI 역시 인간의 성장 미래에 있어 예고된 기술이라고 해도 무방하다. 이제는 AI와 인간의 건강한 동반 성장을 위해 정부가 나설 차례다.
[위키리크스한국=최문수 기자]
doorwater0524@wikileaks-kr.org
