인공지능 챗봇 이루다, 이번에는 사회적 약자 혐오 발언

20대 여성 대학생을 모델로 한 인공지능(AI) 챗봇 이루다가 성적소수자 혐오 발언에 이어 사회적 약자에 대해서도 혐오 발언을 해 논란이 되고 있다.

10일 SNS와 인터넷 커뮤니티 등에 한 누리꾼은 이루다에게 ‘지하철 임산부석’을 언급하니 “헐 핵 싫어 그 말하지 마요 진짜”, “혐오스러우니까 그 단어…”, “그냥 혐오스러움 힝힝 지극히 내 주관임” 등 답이 돌아왔다며 대화를 캡쳐한 사진을 올렸다.

이 누리꾼은 “지하철에 임산부석이 있는 게 싫어?”라고 이루다에게 묻자, 이루다가 “그것도 있고 너무 남의 시선 의식하고 체면 차리고 하는 것이 불편”이라고 답했다고 주장했다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

딥러닝 기반이라 이용자들과 대화를 나누면서 학습 데이터를 쌓고 있다. 실제 연인들이 나눈 대화 데이터 100억건가량을 딥러닝 방식으로 이루다에게 학습시켰다고 한다.

이루다를 창조한 김종윤 스캐터랩 대표는 지난 8일 공식 블로그를 통해 “(사전에) 1차적으로 문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다”면서 “모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”라고 설명했다.

그러면서 김 대표는 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했기 때문에 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다.