[투데이e코노믹 = 우혜정 기자] 페이스북과 트위터가 SNS 상에서 쏟아지는 혐오표현과 분투하고 있다. 시스템 상의 인종차별 논란도 극복해야 할 과제다.

페이스북이 19일 발표한 ‘2021 1분기 커뮤니티 규정 집행 보고서’에 따르면, 올해 1분기에만 2520만 건의 혐오 발언 콘텐츠에 조치가 취해졌다. 인스타그램의 경우 630만 건의 혐오발언 콘텐츠에 조처했다. 페이스북의 규제는 콘텐츠 삭제, 경고장 추가, 계정 삭제 등을 포함한다. 

따돌림 및 괴롭힘 관련 콘텐츠는 페이스북에서 880만 건, 인스타그램에서 550만 건 조치됐다. 조직적인 혐오콘텐츠의 경우 페이스북은 980만 건, 인스타그램은 32만 4500건에 조치가 이뤄졌다. 페이스북과 인스타그램은 올해 4월까지 코로나19와 관련해 잘못된 정보를 확산한 콘텐츠 1800만 건을 삭제하기도 했다.

페이스북은 인공지능(AI) 기술을 활용해 혐오발언의 선제적인 차단에 나서고 있다. 이에 따라 페이스북 내 혐오 발언 콘텐츠의 노출은 0.05%~0.06%만이 이뤄졌다. 노출된 1만 건의 콘텐츠 중 약 5~6건이 혐오 발언 콘텐츠인 셈이다. 

이 수치는 지난 2020년 7월~9월보다 낮아졌다. 당시 혐오 발언 콘텐츠 확산률은 0.1%~0.11% 수준이었다.

페이스북은 AI가 혐오 발언 콘텐츠를 사전에 감지한 비율이 2017년 4분기에는 23.6%에 불과했지만, 현재는 97%에 달한다고 강조했다.

트위터도 혐오 발언과 행위에 대한 콘텐츠를 조치하고 있다. 앞서 지난해 12월에는 특정 인종·출신국·종교·나이대와 관련된 혐오 단어에 대한 규제를 강화한다고 밝히기도 했다. 바퀴벌레, 인간쓰레기, 거머리 등의 표현이 함께 담긴 게시물도 마찬가지다. 

이용자가 규정을 어기면 트위터는 해당 계정을 일시적으로 잠가 게시물을 올리지 못하게 하거나, 계정을 영구정지할 수도 있다.

다만 트위터가 지난 1월 발표한 ‘17차 투명성 보고서’에 따르면, 지난해 상반기 동안 코로나19로 인해 업무가 중단된 상태에서 혐오 행위 관련 정책에 따라 조치 처리된 계정 수는 35% 감소했다. 

시스템 상의 인종차별 논란을 극복하려는 노력도 이어지고 있다. 트위터는 21일 계정을 승인하는 공식계정 인증프로그램을 재개한다고 밝혔다. 인종차별 논란으로 서비스를 중단한 지 4년 만이다.

앞서 2017년 11월, 인종차별집회를 주도한 미국 극우 활동가 제이슨 케슬러의 계정이 인증 배지를 받으면서 트위터의 계정 인증 제도가 불분명하며 혼란을 일으킨다는 비판이 인 바 있다.

트위터는 정부, 기업 또는 브랜드, 언론사 및 기자, 엔터테인먼트, 스포츠 및 e스포츠, 활동가 또는 주최자, 기타 영향력 있는 개인 등 총 6개 카테고리에 대해 인증을 신청할 수 있도록 했다. 또한 기준을 충족하지 않는 계정의 인증 배지를 자동적으로 제거하는 정책도 시작한다.

또한 트위터는 19일 인종차별적 편향성이 포함된 AI의 ‘자동 이미지 자르기 기능’을 인지하고 중단하기도 했다. 

이용자가 트위터에 사진을 올리면 AI 알고리즘이 핵심 인물을 자동적으로 선택해 잘라낸 후 미리보기용 사진을 만드는데, 이 알고리즘이 흑인보다 백인을 중요 인물로 선정할 확률이 높은 것으로 나타났다. 남녀의 경우에는 여성을 더 선호했다. 이용자들은 지난해 9월 해당 문제를 트위터에 제기했고, 트위터는 관련해 조사를 진행해왔다. 

트위터가 밝힌 것에 따르면 AI 알고리즘을 자체 평가한 결과 인구통계학적 평균보다 4%만큼 백인을, 8%만큼 여성을 더 선호하는 것으로 나타났다. 흑인 여성과 백인 여성이 함께 있는 사진에서는 백인 여성은 7% 더 선호했다. 

이에 트위터는 홈페이지에서 AI 알고리즘을 적용한 자동 이미지 자르기 기능을 중단했다. 대신 이미지 일부를 자르지 않고 축소해 등록시키는 미리보기 방식을 도입했다.