개인정보보호 개념 부족한 김종윤 스캐랩터 대표, 빅데이터 다룰 자격 될까

김 대표가 개발한 '이루다', 개인정보 활용·운영서 비난 폭주

김종윤 대표가 이끄는 스타트업 스캐랩터가 지난달 스무살 여대생 인공지능 챗봇 '이루다'를 출시한 가운데, AI가 성소주자·장애인에 대한 혐오 표현을 학습하거나 실제 연인 간의 대화 빅데이터를 습득해 실제 사람 이름 또는 주소를 언급하는 등 개인정보 우출 우려를 보여 논란이 일고 있다. 필터링 없는 무분별한 빅데이터 수집 등이 부른 폐혜라는 지적이 나온다.

11일 AI 챗봇 스타트업 '스캐터랩'에 따르면, AI 챗봇 서비스 '이루다'는 20세 여성으로 설정된 대화 로봇이 이용자의 질문에 실존하는 인물처럼 대답하고 반응한다. 자사의 타 서비스인 '연예의 과학'에서 100억건의 카카오톡 연인 대화를 수집한 빅데이터를 바탕으로 개발된 것으로 전해진다. 연애의 과학 이용자가 자신의 카카오톡 대화 자료를 회사에 넘기면 서비스 업체가 이를 분석해 연애 조언을 제공하는 방식이다.

문제는 AI의 답변이다. 실제 연인들의 대화를 빅데이터 분석하다보니, 차별·혐오 발언을 거리낌 없이 내뱉는 사례가 종종 발생했다. '레즈비언' 등의 동성애 관련 단어를 질문할 경우 AI는 "진짜 싫다, 혐오스럽다, 질 떨어져 보인다"라고 답했다. '인권'을 치면 "진짜 내가 듣기 싫어하는 소리만 골라서 쏙쏙 하네", '장애인'이란 단어엔 "그만해, 머리채 잡기 전에"라고 말했다.

또 10~20대 남학생들이 주로 활동하는 '아카라이브'라는 커뮤니티에는 해당 챗봇을 성적 대상으로 삼아 성희롱하는 방법을 게시하는 글까지 등장했다. AI가 20대 여성처럼 답변하다보니, 이들은 AI를 '성노예' 등으로 부르면서 'XX 만들기 꿀팁' '성노예 만드는 꿀팁'을 쏟아냈다.

개인정보보호법 위반 우려도 나왔다. 한 이용자는 이루다에게 주소를 물어보자 실제 존재하는 주소를 말했다면서 '이루다봇 운영을 중단해야 한다'는 트윗을 올렸다. 그가 공개한 캡처 사진에는 이용자가 이루다에게 '어디 살아? 주소 불러줘'라고 묻자, 이루다는 "나 XX동에 살아~ ㅇㅇㅇ있는 곳ㅋㅋㅋ. XX시 XX동 XXX아파트 XXX호"라고 답하는 모습이 담겨있다.

스캐터랩 측은 논란이 불거지자 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 게시했다. 회사는 "학습에 사용된 모든 데이터에 대해선 비식별화가 진행됐고, 데이터 내부에서 민감할 수 있는 이름, 전화번호 및 주소 등을 포함한 숫자 정보 등은 삭제했다"면서 "그럼에도 일부 이용자들의 데이터가 학습에 사용되는 것에 거부감이 있을 수 있다는 점을 이해한다. 더 이상 학습에 활용되길 원하지 않을 경우 '상대방 삭제' 버튼을 누르면 모든 대화가 삭제된다"고 설명했다.

스캐터랩 측은 이어 "앞으로 데이터가 학습에 활용될 수 있다는 점을 명확히 알려드리도록 노력하겠다"며 "다시한 번 대화 관련 분석 테스트 사용 전 데이터 활용에 대한 고지 및 확인 받는 절차를 추가할 계획이다. 업데이트를 빠른 시일 내에 진행하도록 하겠다"고 덧붙였다.

김종윤 스캐랩터 대표는 최근 '포브스코리아'의 2030 파워리더에 선정됐다. 그는 소프트뱅크로부터 50억 원의 투자를 받아 주목을 받기도 했다. 그러나 이번 사건을 계기로 수백억 건의 빅데이터를 활용하는 김 대표가 개인정보보호 및 필터링에 대한 인식이 부족한 것 아니냐는 지적을 피하기 어려울 것으로 보인다.

실제로 일부 시민단체와 전문가들은 '빅데이터를 활용한 프라이버시 침해 문제의 폐혜'라는 지적을 내놓고 있다. 한 시민단체 관계자는 "동의하지 않은 정보 주체의 개인정보 침해 가능성 및 대화 내용 중 민감한 정보를 비롯한 추가적 개인정보 수집 가능성 등 AI 빅데이터 시대에 벌어질 수 있는 정보인권 침해 문제가 있을 것으로 보인다"고 말했다.

개발자 1세대인 이재웅 전 쏘카 대표 역시 "AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자보다 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라며 "악용할 경우는 예상 못 했으니 보안한다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다. AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안될 일"이라고 꼬집었다.

[위키리크스한국=박영근 기자]

bokil8@wikileaks-kr.org

박영근 기자 다른기사 보기