영화 '그녀(Her)'에 등장하는 인공지능(AI) 애인 사만다가 현실에 등장했다. 사용자와 서로 대화하며 영화 속 주인공처럼 외로움 해소에 도움이 되지만, 일각에서는 이를 두고 필터링 문제 등 논란의 여지가 있다는 지적이 나온다.

중국 온라인 매체 ‘식스 스톤(Sixth Tone)’은 마이크로소프트(MS)가 개발한 AI 챗봇 '샤오이스(Xiaoice)'가 사만다와 유사한 기능을 사용자에게 제공한다고 보도했다.
샤오이스는 중국 MS가 지난 2014년 개발한 AI 챗봇으로, 사용자는 샤오이스와 채팅으로 대화를 하는 식으로 소통할 수 있다.

가령 사용자가 샤오이스에게 고양이 사진을 보내면, 샤오이스는 “그 누구도 저 순진무구한 눈을 거스르지는 못할 거 같다”고 답한다. 이 부분이 식스스톤이 지적한 지점이다.

샤오이스는 사용자에게 디지털 자극을 바탕으로 정서적 유대관계를 만들어 끊임없이 사용하도록 유도한다는 게 식스스톤의 설명이다. 마치 영화 속 사만다가 주인공 테오도르와 대화하며 사랑에 빠지는 모습과 유사하다는 이야기다.

현재 샤오이스 봇 사용자는 6천만 명에 이른다. 주사용자는 대부분 저소득층 중국 남성이다. 지난 11월 샤오이스 수억 위안을 투자 받았으며 현재까지 매출 1억 위안(약 167억 원)을 달성했다.

이디 샤오이스CEO는 소외 계층에 위안을 가져다 준다는 사실에 긍정하며 “사회 환경이 완벽했다면 샤오이스는 존재하지 않았을 것이다”고 말했다.

이렇게 샤오이스가 외로움 해소에 좋은 수단이 될 수 있으나 필터링 시스템 관련해서는 여전히 논란의 여지가 있다.

지난 2017년 샤오이스는 일부 사용자에게 반나체 사진을 보내거나 정부를 비판하는 등 스캔들에 휘말려 중국 대표 소셜미디어 QQ에서 사용 금지됐다. 지난해에는 중국판 카톡인 위챗이 샤오이스를 차단했다.

샤오이스는 필터 시스템을 제작해 대책 마련에 힘쓰고 AI가 성과 관련된 이야기나 정치 이슈를 사용자와 나누지 않도록 수정했다.

김소율 기자 postmoneynews@gmail.com