지난 2021년부터 AI 안전성 선행 연구로 글로벌 대응
인공지능(AI) 시대가 본격화하면서 사용자의 가치에 따라 AI 판단의 오류, 왜곡 등 편향된 정보가 확산하고 있다. 이에 글로벌 AI 시장에서 윤리 문제가 중요 개념으로 자리잡으면서 네이버가 AI 안전성 강화에 선제 대응하기 위해 전담 센터를 마련했다.
8일 네이버에 따르면 일반 대중이 첨단 AI 기술을 일상에서 편리하게 사용하도록 최근 AI 개발 초기단계에서 윤리정책 등을 총괄하는 조직을 신설했다.
글로벌 사회에서 AI 기술의 편향성은 일반 대중의 의사결정에 중요한 영향을 끼치는 만큼 AI기술이 발전할수록 이해관계자가 준수할 보편적인 사회규범과 맞물리고 있다.
네이버 관계자는 "생성형 AI의 영향력이 증가함에 따라 안전하고 책임감 있는 AI를 기반으로 지속가능한 AI 생태계가 구축하는 역량이 미래 AI 기술을 좌우한다"고 말했다.
이어 "지난 2021년부터 지금까지의 AI 안전성 관련 선행 연구와 정책 분야에서의 성과를 토대로 새롭게 꾸린 조직에서 글로벌 AI 기술의 책임을 강화할 것"이라고 덧붙였다.
네이버가 최수연 CEO 직속으로 꾸린 AI 연구센터 '퓨처 AI 센터'는 하정우 네이버클라우드 AI이노베이션 센터장이 수장을 맡는다. 하 센터장은 그동안 네이버클라우드 AI 이노베이션 조직에서 팀네이버의 중장기 AI 선행연구와 AI 생태계 확장 전략 수립을 총괄했다. 그는 지난 2022년부터 네이버가 중심으로 운영 중인 '사람을 위한 AI 전문가 포럼'을 창설하고 지난해 세계 최고 권위 자연어처리 학회에 채택된 네이버클라우드 AI 윤리 연구 프로젝트의 책임자로 참여했다.
네이버는 지난 2021년 서울대와 함께 초대규모 AI 연구센터 강결합 산학협력을 추진하고 있다. 네이버 측은 "초대규모 AI 관련 난제를 해결하기 위한 강결합 연구 협력을 진행 중이며 최근 '신뢰성 있는 초거대 AI'를 중요한 안건으로 연구 협력을 지속하고 있다"고 밝혔다
특히 지난해 11월엔 영국 정부가 주최한 글로벌 AI 안전성 정상회의에 참여해 AI 안전성의 글로벌 갱쟁력을 입증했다. 국내 기업 중에서는 네이버와 삼성이 참여했다.
네이버 관계자는 "정상회의에서는 각국 정부와 주요 AI 기업, 시민사회단체, 전문가들이 대거 참석해 AI의 잠재적 위험성을 논의했다"며 "네이버의 AI 기술력과 안전성을 위한 노력이 글로벌에서도 주목을 받고 있음을 현장에서 확인했다"고 언급했다.
이에 네이버 퓨처 AI 센터는 네이버의 안전한 AI 서비스 개발과 운영을 위해 하이퍼클로바X 내부의 레드팀과는 별개로 학계를 포함한 외부 연구 그룹과 프로젝트를 수행함은 물론 자체 생성 AI 위험관리에도 참여할 계획이다.
하정우 네이버 퓨처 AI 센터장은 "네이버는 지금까지의 AI 안전성 관련한 선행 연구와 정책 분야에서의 성과를 이어가면서 신설 조직으로 글로벌 기술 리더십을 강화하고 AI 기술의 책임을 다해 생성 AI 시대의 신질서 수립에 적극 대응할 것"이라고 말했다.
[위키리크스한국=오은서 기자]
oes@wikileaks-kr.org
