이미지 확대보기이른바 '이루다 논란'은 최근 스타트업 스캐터랩의 AI 챗봇 이루다를 둘러싸고 벌어진 사건이다. 이루다가 사용자들과 나눈 대화에 성적·성소수자 혐오 발언이 포함되면서 논란이 야기됐다. 이루다가 관련 내용을 학습한 것으로 보였다.
이어 개발사 스캐터랩이 AI를 제작하는 과정에서 연애 분석 앱 '연애의 과학'으로 사용자들의 카카오톡 데이터를 수집해 활용하는 과정에서 개인정보가 유출됐다는 논란도 벌어졌다. 결국 개인정보보호위원회와 한국인터넷진흥원 등 관계기관이 조사작업에 착수했다.
방통위는 이루다 논란에 대해 "사업자와 이용자, 정부 등 지능정보사회 구성원 모두가 AI 윤리의 중요성을 인지하고, 각자가 실천할 수 있는 방안을 모색해야 한다"고 지적했다.
이에 방통위는 AI 관련 법체계를 정비하고 AI 서비스에서 이용자가 보호받을 수 있도록 관련 지침을 정비하게 됐다. 방통위는 AI서비스에서 이용자 보호를 가장 큰 원칙으로 삼고 이용자 교육, 사업자 컨설팅, 제도개선 등을 추진해 나간다는 방침이다.
특히 AI서비스의 책임소재·권리구제 절차 등이 포괄될 수 있도록 기존의 법체계를 정비해 나간다는 방침이다.
또 AI서비스의 이용자 보호를 위해 규범 및 제도를 구체화해 나갈 방침이다. 방통위는 앞서 지난 2019년에 '차별금지, 인간존엄성 보호' 등의 내용을 포함한 '이용자 중심의 지능정보사회를 위한 원칙'을 발표한 바 있다.
해당 원칙이 선언적 규정이라면, 올해부터는 이를 실천하기 위한 구체적 사례와 방법 등을 사업자 등과 공유한다는 계획이다.
이외에도 올해부터 사용자가 AI서비스를 비판적으로 이해하고 주체적으로 활용할 수 있도록 관련 교육도 실시한다.
교육 내용에는 사용자가 AI서비스에 활용된 알고리즘의 편향성을 파악하고 그에 따른 문제를 최소화할 수 있는 방안 등이 담길 예정이다.
한상혁 방통위 위원장은 "AI서비스는 더 많은 부가가치를 창출하고, 생활의 편의를 더해줄 것이지만, 올바른 윤리와 규범이 없는 AI서비스는 이용자 차별과 사회 갈등을 초래할 수 있다"며 "AI기술의 혜택은 골고루 누리되, 부작용은 최소화할 수 있도록 사람 중심의 AI를 위한 정책을 촘촘히 추진해 나갈 것이다"라고 밝혔다.
안희주 기자 postmoneynews@gmail.com
