미디어 서비스에서 인공지능 기반의 추천 시스템 활용이 증가하고 있다. 온라인 플랫폼뿐 아니라 TV 방송 중심의 레거시 미디어에서도 이러한 현상은 가속화되고 있다. 미국의 미디어 네트워크 비아컴(Viacom)은 개인 맞춤형 서비스를 제공하기 위해 매월 테라바이트 단위의 방대한 로그 파일을 데이터화하고 있다.
비아텀의 가입자 대부분은 선형 TV에 집중되어 있지만, 디지털 가구 도달범위가 확대되는 추세인 만큼 이에 대비하기 위한 움직임으로 보인다.
이미지 확대보기BBC, CNN, NBC, Washington Post 등도 해당 서비스를 통한 브리핑 서비스를 제공하고 있다. 워싱턴 포스트는 연령과 정치 성향 등의 이용자 데이터를 분석하고 있다. 이용자가 흥미로워할만한 기사를 선별해 노출하고, 기존에 읽었던 기사의 키워드나 문구를 기반으로 새로운 기사를 추천한다.
실제로 콘텐츠 추천 서비스는 눈에 보이는 성과를 내고 있다. 영국의 미디어 그룹 News UK는 2018년 온라인 The Times와 The Sunday Times에서 맞춤형 뉴스레터 생성 솔루션 ‘JAMES’를 도입한 후 구독 취소 규모를 49% 줄일 수 있었다고 발표했다. 미디어 분야의 추천 서비스는 이용자의 편의성을 증진한다는 긍정적인 효과를 내고 있다.
하지만 미디어는 여론을 특정한 방향으로 유도하거나 나아가 여론을 조작할 수 있는 힘을 가지고 있기 때문에 조심스러운 접근이 필요하다는 주장도 제기된다. 알고리즘 시스템의 작동 방식에 대한 투명성이 확보되지 않을 경우 사실을 왜곡하거나 콘텐츠의 편향성을 강화할 위험이 있기 때문이다.
미디어 콘텐츠는 개인의 취향이나 선호도에 따라 특정한 유형의 내용만을 접하게 될 경우 편향성이 짙어지고 균형 잡힌 정보 획득이 어려워질 수 있다. 알고리즘 저널리즘 전문 연구자 Nick Diakopoulos는 규모와 속도에 초점을 둔 인공지능의 자동화 방식을 보완하기 위해 인공지능을 윤리적으로 활용하고 미디어의 본분을 잊지 않아야 한다고 강조했다.
어떤 경우든 미디어는 수집한 데이터, 데이터의 처리와 저장 방법에 대해 투명성을 유지해야 한다. 실제로 몇몇 미디어 사업자가 데이터 관리 의무를 준수하지 않고 이용자 정보를 제3자에게 공개해 물의를 일으키기도 했다.
인공지능은 개인화 서비스와 맞물려 그 어떤 기술보다도 이용자 개인 정보와 맞닿아 있는 기술이다. 기술의 특성을 고려할 때 미디어 사업자들은 이를 상업적으로 활용할 때 어떠한 문제를 야기할 수 있는지, 윤리적 문제는 없는지를 점검해야 한다.
◆ 개인적 측면의 6가지 부작용
맞춤형 콘텐츠 추천 서비스는 프라이버시 침해와 차별, 필터 버블에 따른 자율성 약화와 편향성 심화의 문제가 제기될 수 있다. 특히 여섯 가지 부작용에 주목해야 한다.
첫째, 표현의 자유를 억압할 수 있다. 유엔 특별보고관은 뉴스에 대한 다양한 접근을 통제하는 개인 맞춤형 방식은 ‘편견을 강화’하고 시민 스스로 정보를 찾는 능력을 약화할 수 있다고 경고했다.
둘째, 인공지능 시스템의 불투명성으로 인해 자율성을 침해할 수 있다. 알고리즘을 통해 세밀하고 무의식적이며 개인화된 수준의 교묘한 설득을 지속한다. 이럴수록 개인의 인지적 자율성과 의견을 형성할 수 있는 능력과 권리에 영향을 미칠 수 있다.
셋째, EU는 기본권 헌)을 통해 모든 사람이 자신의 데이터에 대한 통제권을 기본 권리로 보장받도록 했다. 하지만 알고리즘 모델에 사용되는 데이터에 대한 레거시 미디어와 소셜 미디어 이용자들의 동의가 얼마나 투명하게 이루어질 수 있을지는 미지수다.
넷째, 모든 인공지능 알고리즘 시스템에는 차별 가능성이 내재되어 있다. 인공지능 기반의 개인화는 부당한 차별을 감시할 수 있는 능력을 약화시키고, 소수의 목소리를 배제하며, 나아가 이용자를 선별·차별 대응할 수도 있다는 우려가 제기된다.
다섯째, 머신러닝 알고리즘은 시간이 지남에 따라 일관되고 고정된 정체성을 기반으로 행동을 모델링하는 경향이 있다. 머신러닝 기반의 개인화는 개인이 사회적 상호작용 및 개인의 발전에 따라 새로운 정체성을 만들어가는 현실을 외면하고 고정적인 정체성을 강요할 수 있다.
여섯째, 개인 데이터를 분석하여 사적 내용을 추론하는 인공지능의 기능은 심각한 프라이버시 침해 문제를 일으킬 수 있다. 또한 정교한 타겟팅을 위해 개인에 대한 프로파일링을 추구하는 과정에서 아동을 포함해 정보 취약층에 대한 공정성과 책임성을 배제할 수 있다.
◆ 사회적·정치적 측면의 2가지 부작용
인공지능 기반의 개인화가 심화됨에 따라 사회적 결속이 약화되고 양극화가 가속화되는 문제가 발생할 수 있다. 또 알고리즘 기반의 개인화 시스템은 자유로운 아이디어 교환을 어렵게 함으로써 ‘정치적 담론의 공정성과 품질’을 훼손할 수 있다는 우려도 제기된다.
첫째, 과도한 개인화 서비스로 다양한 정보에 노출될 기회가 제한됨으로써 사회적 응집력에 대한 부정적인 영향을 미칠 수 있다. 특히 주요한 정책 이슈와 관련하여 유권자들을 성향에 따라 분류하고 집단별로 맞춤형 뉴스만을 제공할 가능성이 높다. 이러한 경우, 공론의 장은 파괴되고 토론에 대한 시민의 역량을 저해하여 사회적 결속을 저해할 수 있다.
둘째, 페이스북과 인스타그램 등 소셜네트워크 서비스를 통해 이용자의 지인 커뮤니티나 개인정보를 바탕으로 개인 맞춤화된 가짜 뉴스와 잘못된 정보를 더욱 쉽게 전달할 수 있다. 대중을 상대로 한 허위정보 유포의 폐해가 확산된다면 소셜네트워크 서비스를 넘어 미디어 전반에 부정적 영향을 미칠 수 있다.
인공지능 알고리즘은 개인뿐 아니라 사회의 양극화를 가중할 수 있다. ‘정보 편식’ 현상이 사회 전반으로 확산된 사회적 양극화로 이어질 것이란 전망이다.
안희주 기자 postmoneynews@gmail.com
