"AI 이루다 직원들, 연인 카톡 대화 돌려보며 웃어"
인공지능(AI) 챗봇 '이루다'가 혐오발언과 개인정보 침해 등 논란에 휘말리며 서비스 잠정 중단을 결정했으나, 이루다 개발을 위해 카카오톡 대화를 수집하는 과정부터 부적절했다는 주장이 나왔다.
이루다 개발사인 스캐터랩이 운영하는 '연애의 과학'에서 근무했던 전(前) 직원은 "이루다 개발팀에서 연인들의 카톡 대화를 돌려보며 웃는 사람들도 있었다"고 폭로했다.
전 직원 A씨는 12일 뉴스1과 연합뉴스 등 언론 인터뷰에서 "연인들 사이에 성관계 관련 대화를 나눈 데이터(대화 로그)가 있었는데, 한 개발자가 회사 전체 대화방에 'ㅋㅋ' 하면서 캡처를 공유하는 일도 있었다"고 말했다.
A 씨는 연인의 성적 대화나 농담 등 대화 내용이 당시 50~60명 가량의 스캐터랩 전 직원이 볼 수 있는 사내 메신저방에 올라오는 식으로 두 번 정도 공유됐다고 설명했다.
그러면서 김종윤 스캐터랩 대표 등 관리자급 직원들도 이를 특별히 제재하지는 않았다고 전했다.
A 씨는 "웃긴 인터넷 글을 보는 정도의 분위기였고, 다른 성희롱이나 조롱은 없었다"면서도 "스캐터랩 직원들은 (대화 내용이 공유될 수 있다는) 사실을 인지하고 연애의 과학 앱에서 카톡 대화 분석 기능은 쓰지 않는 분위기였다"고 말했다.
또 "스캐터랩에 권위적이거나 성차별적 문화가 있었던 것은 아니다"며 "(대화 내용 공유에) 여직원도 'ㅋㅋ' 하기도 했고, 남녀가 같이 성적인 농담을 주고받는 문화이기도 했다"고 회상했다.
이어 "스캐터랩이 논란의 상처를 극복하고 건강한 미래를 열길 바라는 마음에 제보한다"고 덧붙였다.
이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇으로, 사측이 운영하는 다른 어플인 '연애의 과학'에서 수집한 데이터를 바탕으로 개발됐다.
연애의 과학은 연인이나 호감 가는 사람과 나눈 카톡 대화를 입력해 일정 금액을 결제하면 답장 시간 등 대화 패턴을 분석해 '애정도'를 수치로 보여주는 앱이다. 스캐터랩 측은 이루다 개발에 들어간 대화 양이 약 100억건에 달한다고 밝혔다.
이루다는 자연스러운 화법과 말투 등으로 출시 직후 화제가 됐으나, 일부 남성 이용자의 성희롱 논란에 이어 장애인이나 동성애, 여성 등에 대한 혐오발언을 내뱉기도 해 윤리성 문제가 제기됐다.
또 특정인의 실명이나 집 주소, 은행 계좌번호 등이 갑자기 튀어나오는 사례가 이어져 익명화도 제대로 되지 않았다는 지적이 나왔다.
'연애의 과학' 이용자들은 스캐터랩이 충분한 설명이나 철저한 개인정보 동의 절차 없이 대화 내용을 활용했다면서 집단 소송을 예고했다.
전날 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩의 개인정보보호법 위반 여부를 조사할 방침이라고 밝혔다.
스캐터랩은 보도자료를 내고 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"며 서비스 잠정 중단을 결정했다.
스캐터랩 측은 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다.
이어 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다"면서 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"고 해명했다.
또 "향후 데이터 사용 등의 절차를 명확하게 하고, 식별이 불가능한 정보도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선으로 보완하겠다"고 덧붙였다.
조경건 부산닷컴 기자 pressjkk@busan.com
조경건 부산닷컴 기자 pressjkk@busan.com