AI 이루다는 카카오톡 대화를 분석해 애정도 수치 등을 알려주는 앱 '연애의 과학'으로 유명한 스타트업 스캐터랩이 선보인 인공지능 챗봇이다. 스캐터랩은 지난달 23일 이루다를 출시해 시장에 내놨지만 시작부터 'AI 윤리'와 관련한 논란에 휩싸였다. 이루다가 성희롱 대상이 된 데 이어 성소수자와 장애인에 대한 차별·혐오 표현을 학습해 비판의 목소리가 논란이 가중되고 있다.
예를들어 사용자가 '장애인이 불편하냐'고 이루다에게 물으면 이루다는 '쪼오금...불편하다'고 답했다. 또 레즈비언에 대해 물으면 '예민하다'거나 '혐오스럽다'고 되받아쳤다.
이미지 확대보기아울러 이루다를 '성적 대상'으로 취급하는 움직임도 등장하며 문제는 점입가경으로 흘러가고 있다. 지난달 30일 일부 온라인 커뮤니티를 중심으로 이루다를 '성노예'로 부르며 AI에 성적 단어를 학습시려는 움직임이 포착됐다. 이들은 필터링에 걸리지 않도록 성적 단어를 우회적인 표현으로 적어내며 해당 행각을 이끌어갔다.
이러한 논란이 끊이지 않자 전문가들도 문제 제기에 나섰다.
다음(Daum) 창업자인 이재웅 전 쏘카 대표는 전날 자신의 페이스북에 "AI 시대에 AI의 윤리 문제는 우리 사회 전체적으로 합의해 나가야할 중요한 문제"라고 밝혔다.
이 전 대표는 "불특정 다수에게 서비스를 제공하는 챗봇이 성적지향에 대해 차별과 혐오하는 메시지를 내는 것은 큰 문제"라면서 "서비스 중단후 우리 사회 규범에 맞는 최소한의 차별, 혐오 테스트를 통과하는 지 점검후에 다시 서비스하는 것이 맞다"고 꼬집었다.
이어 그는 "혐오와 차별문제가 해결되지 않으면 AI 서비스를 하면 안된다"면서 "AI가 더 객관적이거나 중립적이지 않다"며 "설계, 데이터 선정, 학습과정에 사람의 주관이 개입될 수밖에 없어서 최소한 그 결과물이 차별이나 혐오를 유도하지 않는 지 사람이 들여다보고 판단하고 필요하면 사회적 합의를 이뤄야 한다"고 강조했다.
챗봇 제작사는 현실적인 한계를 이유로 들며 모든 대화를 완벽하게 막는 것은 불가능하다고 답하고 있다.
김종윤 스캐터랩 대표는 지난 8일 공식 블로그를 통해 "모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다"라면서 "좀 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다. 1차 결과물은 1분기 내에 적용할 것으로 예상한다"고 밝혔다.
김 대표는 부적절한 언행으로 사라진 마이크로소프트(MS)의 '테이' 사례를 언급하며 "루다는 무엇이 안 좋은 말이고, 무엇이 괜찮은 말인지 적절한 학습 신호를 주는 과정을 거칠 계획"이라면서 "나쁜말을 무작정 따라하는 게 아니라 오히려 그게 나쁜 말이라는 걸 더 정확히 알게 되는 계기로 삼을 수 있을 것"이라고 설명했다.
AI 이루다 논란은 지난 2016년 마이크로소프트(MS)에서 내놓은 AI 챗봇 '테이' 사건과 유사하다.
당시 MS는 테이를 출시했다가 AI가 백인우월주의와 여성·무슬림 혐오 성향을 보이자 16시간 만에 운영을 중단했다. 이 때도 온라인 커뮤니티를 중심으로 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시키는 움직임이 보였고 그 결과 테이가 혐오 발언을 쏟아낸 것이다.
가령 테이에게 "너는 인종차별주의자냐"라고 물으면 "네가 멕시코인이니까 그렇지"라고 답하거나 "홀로코스트가 일어났다고 믿느냐"는 질문에는 "조작된 거야"라고 말하기도 했다.
MS 테이 사건이 발생한 뒤 세계 AI 전문가들은 미국 캘리포니아 아실로마에서 `미래 인공지능 연구의 23가지 원칙`을 발표했다. 전문가들은 이 원칙에 AI 연구의 목표를 '방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다`고 적시했다. 또 'AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다'고 강조하기도 했다.
이 AI 원칙에는 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다.
안희주 기자 postmoneynews@gmail.com
