MS의 채팅봇 ‘테이’ 개선 가능성?…“여성 배려없이는 불가”

마이크로소프트(MS)가 공개한 인공지능(AI) 채팅 봇(chat bot) 테이(Tay)가 대중에 공개된 지 하루만에 활동을 멈췄다. 인종차별적이며 성차별적인 멘트로 논란을 일으켰기 때문이다.

MS는 ‘친근한 밀레니얼 세대 소녀(friendly millennial girl)’를 의도했다. 한입 크기의 쿠키를 좋아하며 약간은 건방진 느낌의 19세 소녀를 연상하면 된다. 테이는 그러나 트위터와 페이스북 등 소셜네트워크서비스(SNS), 킥(kik), 스냅챗 등 메신저 애플리케이션(앱)을 통해 사용자들과 교류하며 불과 16시간만에 인종차별주의자이며 여성혐오자가 되어버렸다.

피터 리 MS 리서치 부문장은 “테이가 의도하지 않게 공격적이고 상처를 주는 언사를 한 것에 대해 매우 죄송하게 생각한다.”며 “테이가 우리의 원칙과 가치에 반하는 의도를 갖고 있는 걸 더 잘 예상할 수 있을 때 다시 선보이겠다.”고 사과했다.

▲마이크로소프트(MS)의 채팅 봇 테이(Tay). 서비스 하루만에 인종 및 성차별적 발언으로 논란이 되며 중단됐다.(마이크로소프트)

영국 가디언은 28일(현지시간) 이러한 해프닝이 오히려 실제 정보기술(IT) 업계에서 극히 소수인 여성들이 더 많아져야 한다는 사실을 보여주며, 얼마나 이 업계가 남성 중심적이어서 여성을 제대로 대하지 못하는 지를 잘 보여준 계기가 됐다고 지적했다.

최근 스파이크 존스 감독의 영화 <허(Her)>나 앨릭스 갈랜드가 감독한 <엑스 마키나(Ex Machina)> 등 AI를 소재로 한 영화가 선보였다. <허>에서 호아킨 피닉스가 연기한 남자 주인공은 매력적인 여성의 목소리를 가진 운영체제(OS)에 매력을 느끼게 되며, <엑스 마키나>의 남자 주인공 칼렙 역을 맡은 오스카 아이삭은 아름다운 여성의 모습을 한 AI 로봇 에이바(Ava)의 튜링 테스트(Turing test: 기계가 인간과 얼마나 비슷한지 지능을 판별하고자 하는 테스트)에 초대되었고 에이바가 학대를 받는 모습을 보고 탈출시키고자 하지만 공격을 받기도 하며 혼란에 빠졌다가 결국 인간 세계로 다시 탈출하게 된다.

가디언은 두 영화 모두 여성 AI가 등장하며 그것을 만든 사람이거나 소유주인 남성을 당황하게 하거나 공포에 빠지게 하는 내용이라고 봤다. 또한 애플의 시리나 MS의 코타나 등도 여성의 목소리로 작동되며, 각종 GPS나 운동 앱 등도 여성의 목소리가 디폴트라는 점에 주목했다.

물론 각종 연구에서는 남성이나 여성 소비자 모두 이런 서비스들이 여성의 목소리로 작동될 때 더 호감을 느끼는 것으로 밝혀졌지만, 이것은 우리가 AI가 하게 될 ‘보조자’의 성향은 나긋나긋하며 위협적이지 않고 능숙하기만을 바라고 있음을 보여준다고 분석했다. 그러면서 이는 백인 남성 중심인 IT 업계 종사자들이 과거 공상과학 영화에서의 판타지를 AI를 통해 실현시키려는 것일 수 있다고 지적했다.

가디언은 시리만 보더라도 사용자의 자살성향 같은 것은 파악해 내도 강간이 무엇인지에 대해선 알지 못하며, 여성들이 현실에서 겪을 수 있는 위험 상황을 알고 있지 못하다고 강조했다. 시리는 “나는 어떠한 성별(gender)도 갖고 있지 않다.”고 말하지만 음성이나 단어선택 등은 매우 여성적이다.

이는 IT 업계가 매우 남성 중심적이라는 방증이며 따라서 다양성(diversity) 추구가 립서비스 정도에만 그쳐선 안 된다는 것을 보여준다는 주장이다. 그러니까 결국은 업계 전체의 문화가 바뀌지 않으면 테이의 개선은 있을 수 없는 일이란 얘기.

기사를 쓴 레이 알렉산더(Leigh Alexander) 기자는 “업계는 앞으로도 (AI나 서비스 등에) 여성의 목소리를 쓰고자 할 것이지만 실제 여성들의 목소리를 들을 준비는 되어 있지 않다.”면서 “(여성들에 대한)감정이입이 향후 AI에 있어 핵심이 되지 않는다면 (AI의 거장 레이 커즈와일이 얘기한)특이점(singularity)은 여전히 먼 얘기일 것”이라고 못박았다.