페이스북이 인종차별적인 혐오 표현에 대해 적극적으로 검열할 계획이다.

그간 페이스북은 남성, 미국인, 백인 등을 비하하는 표현들만 우선적으로 검열하는 알고리즘을 운영해 왔다.

페이스북을 이용하는 시민 운동가, 연구자들은 페스북이 혐오 표현을 조장하고 있다고 비난해 왔다. 페이스북이 미국 내 소수 집단에 대해 편견과 왜곡을 만들어 부정적인 영향을 미치고 있다는 것이다. 이러한 문제가 지속적으로 제기됐지만 페이스북은 알고리즘을 바꾸지 않았다.

최근 페이스북은 흑인 등 특정 인종을 겨냥한 혐오 표현이 소수 집단에 미치는 영향에 관심을 두기 시작했다. 앞으로 소수 인종의 혐오 발언을 우선순위로 취급할 것으로 보인다.

검열 방식은 이미지와 텍스트에 우선순위를 매기는 방식이다. 예를 들어, 일반적인 남성과 백인을 대상으로 하는 혐오 표현은 유해성이 낮은 것으로 간주해 우선순위가 뒤로 밀려난다. 이러한 혐오 표현들은 사용자가 신고하지 않는 한 별다른 조치를 취하지 않는다. 반면, 흑인을 혐오하는 이미지나 텍스트가 포착되면 알고리즘은 우선적으로 내용을 분석하게 된다.

페이스북의 검열 강화는 인종 차별과 관련해 수년 간 별다른 조치를 취하지 없었던 운영 정책을 바꾸는 것과 동시에 사회적으로 비난 받았던 문제를 해결하기 위한 속셈으로 보인다.

국내 SNS 업계 한 관계자는 "페이스북의 이번 조치가 내부적인 반성으로 나온 결과가 아닌 것 같다"며, "미국 대선이 페이스북의 운영에 변화를 이끈것 같다"고 말했다. 이어 그는 "바이든의 정치적 기반 중 하나는 미국 내 흑인인데, 그들을 대상으로 하는 혐오 표현이 정치적인 이슈로 부상하는 것을 사전에 차단하기 위한 전략으로 보인다"고 밝혔다.

한편, 페이스북은 이미 지난 7월부터 알고리즘의 인종 편향성 연구를 시작한 것으로 확인됐다. 당시에는 바이든이 민주당 대통령 후보로 당선돼 트럼프보다 높은 지지율을 보이고 있을 때다. 페이스북의 정치적인 고려가 보여주는 대목이다.

앞으로 페이스북은 혐오 표현을 모든 사람에게 동일하게 영향을 미치는 것으로 취급하지 않을 계획이다. 대신, 혐오 표현과 학대에 가장 취약한 소수 집단의 피해에 초점을 맞추다는 방침이다. 특히 무슬림, 유대인의 혐오 표현도 근절할 계획으로 알려졌다.

알두스 페이스북 대변인은 "소수 인종을 대상으로 한 혐오 표현의 심각성에 대해 잘 알고 있다"며, "혐오 표현들을 효과적으로 필터링 하는 기술 개발에 집중하고 있다"고 말했다. 이어 그는 "혐오 표현을 포착하기 위해 상당한 투자를 했으며, 혐오 표현의 95%를 사전에 감지할 수 있는 기술을 개발했다"고 밝혔다.

안희주 기자 postmoneynews@gmail.com