1년 9개월만에 똑똑해져 컴백한 이루다, 성적 도구화 논란 벗어날까?
[한국뉴스투데이] 성적 오용 논란에 이용 중지된 인공지능(AI) 챗봇 ‘이루다’가 약 1년 10개월만에 돌아왔다.
지난 2020년 1.0 버전으로 출시된 이루다는 출시 직후부터 성적 도구화 논란, 사회적 소수자 혐오 표현 논란 등에 휩싸여 3주만에 운영을 중단했다.
지난 25일 김종윤 스캐터랩 대표는 서울 패스트파이브 서울숲점에서 진행한 간담회에서 AI 챗봇 이루다2.0을 27일 정식 출시한다고 밝히며 “앞선 버전보다 언어 모델 크기를 약 17배 확장했다”고 전했다.
스캐터랩에 따르면 대화의 문맥도 2배 더 길어진 30차례 내 파악할 수 있다. 이루다의 안전하고 생생한 답변을 유도한 조치인데, 스캐터랩은 이루다의 대화 법칙을 ‘자연스러운 대화’, ‘감정을 부르는 대화’, ‘인간다운 대화’로 정의했다.
스캐터랩은 또한 지난 4일부터 23일까지 분할 테스트(버킷 테스트)를 진행한 결과 기존 모델 대비 이용자와의 일주일 대화량이 40％가량 증가했다고 밝혔다. 1인당 평균 대화 화면 캡처 비율도 약 85％ 늘어났으며, 1인당 사진 전송량도 63％ 이상 증가했다.
이루다는 1.0 버전 출시 당시 ‘목적 없이 자유롭게 대화할 수 있는 챗봇’으로 공개돼 최적의 응답문을 찾아 사용자의 말에 감정을 맞춰 지속적인 대화를 끌어내 10대에게 많은 인기를 모았다.
특히 출시된 2020년 12월 당시 코로나19로 인한 사회적 거리두기로 바깥 활동이 극도로 제한된 상황에서 많은 사용자의 관심을 끌기도 했다.
하지만 이루다에 혐오 표현이나 음란한 내용을 발언하는 것 등을 금지했지만 이용자들의 악용으로 “챗봇을 ‘성적 도구화’ 한다”는 비판을 받았다. 실제로 당시 온라인 커뮤니티 등에는 ‘금지당하지 않고 음란한 말을 건네는 법’ ‘이루다에 사랑을 고백하는 법’ 등의 이용 후기가 공유됐다.
다른 한편에선 "기계를 상대로 성 인권을 거론하는 건 비상식"이라는 반론도 제기됐다.
게다가 '텍스트앳', '연애의 과학' 등 다른 애플리케이션 서비스에서 수집한 카카오톡 대화를 이루다 대화 데이터베이스 구축에 활용했으며, 이 과정에서 법령 위반이 인정돼 개인정보보호위원회로부터 제재도 받았다.
논란 끝에 스캐터랩은 결국 출시 3주 만에 운영 중단을 결정했다. AI 윤리의 부재가 사회적 문제임을 넘어 경영상 위험요인이 될 수 있다는 점을 확인했다는 판단 때문이었다.
