preLoad Image preLoad Image
검색 바로가기
주메뉴 바로가기
주요 기사 바로가기
다른 기사, 광고영역 바로가기
중앙일보 사이트맵 바로가기
닫기
닫기

페이스북 '혐오 콘텐츠' 규제 허점 투성이…집단학살 조장까지









【서울=뉴시스】양소리 기자 = 페이스북은 어떻게 허위 정보와 혐오·증오 콘텐츠를 관리하고 있을까?



5일(현지시간) 미국의 한 인터넷 언론은 페이스북이 아기 예수 앞에 무릎을 꿇은 산타클로스 이미지를 규제한 사실을 보도하며 이들의 황당한 규정안을 꼬집었다.



올해 6월 페이스북코리아 본사 앞에서는 여성단체 회원들의 '상의 탈의' 시위가 벌어졌다. 여성의 몸을 '음란물'로 규정해 삭제 처리한 페이스북에 대해 항의하면서다.



2016년 페이스북은 베트남전의 참상을 표현한 사진 '네이팜탄 소녀'를 어린이 누드라며 삭제해 논란을 일으키기도 했다.



세계 곳곳에서 페이스북의 혐오 규제 방안에 문제를 제기하는 가운데 뉴욕타임스(NYT)는 27일 페이스북의 콘텐츠 관리 관련 내부 규정을 공개하고 이들의 허점을 분석했다.



NYT는 1400장이 넘는 규정안에서 현실과의 동떨어진 수많은 편견과 오류를 발견했다고 밝혔다.



페이스북은 하루에도 100개 이상의 언어로 올라오는 수십억개의 게시물을 감시한다. 이들이 내놓은 해답은 '파워포인트'를 사용한 규제안 배포. 십여명의 페이스북 직원들은 화요일 격주로 여는 회의에서 어떠한 표현을 삭제하고 감시할 것인지 결정한다. 이 회의 결과를 통해 결정된 규제안은 전 세계 7500여명의 관리자들에게 전달된다.



한 페이스북 관리자는 "규제안은 엄격하고 광범위하다. 회사는 과도한 힘을 행사하고 있다"며 이들이 세계적인 무대에서 표현의 자유를 감시하는 하나의 권력이 됐다고 설명했다.



특정 국가에서는 극단주의적 표현을 광범위하게 허용하고, 또 다른 국가에서는 주류 콘텐츠를 과도하게 규제하는 일도 벌어졌다.



인도네시아 화산 피해를 돕기 위한 모금 청원글은 그 주체가 페이스북의 블랙리스트 명단에 있는 단체라는 이유로 삭제 경고를 받았다. 미얀마의 페이스북 관리자에 보낸 규제안에는 작성 과정에서 몇 가지 실수가 벌어졌다. 그 결과 페이스북 미얀마 측은 집단학살을 조장한 게시물을 몇 달간 방치하게 됐다.





페이스북의 콘텐츠 규제안을 만드는 이들은 젊은 기술자들과 변호사 그룹이다. 이들은 복잡한 사회 이슈들을 '예' '아니오' 규칙으로 만들어 낸다. 영어로 쓰인 규칙은 세계 각국의 페이스북 직원들에게 전달된다. 영어가 모국어가 아닌 국가들의 경우 이 규칙은 '구글 번역기'로 재탄생된다.



세계 각국의 페이스북 관리자들은 '하달'된 규정안에 좌절감을 표한다고 NYT는 전했다. 관리 규정안은 종종 비논리적이다. 정작 규제해야 할 혐오·폭력 콘텐츠는 방치되는 경우도 발생한다.



한 페이스북 관리자는 "혐오 콘텐츠를 보고도 아무런 행동을 못할 때가 있다"며 "미필적 고의에 의한 살인을 하는 기분이다"고 말했다.



페이스북 고위 관계자들은 플랫폼 정화 작업에 최선을 다하고 있다는 입장이다.



페이스북 뉴스피드 관리 담당자인 세라 수 수석 엔지니어는 "이용자들이 바른 표현을 하도록 권고하는 것은 우리의 업무가 아니다. 그러나 페이스북은 우리만의 커뮤니티 기준이 있다"고 말했다. 또 "페이스북에서 이용자들이 표현의 자유와 사회 안정성 사이에서 확실한 균형을 잡길 바란다"고 밝혔다.



모니카 비케르트 글로벌 정책관리팀장은 페이스북의 규정들은 '피해방지'에 초점을 맞추고 있다고 설명했다. 그는 "대부분은 성공적이다"며 "다만 '완벽'은 불가능하다"고 덧붙였다.



비케르트는 "페이스북에는 매일 수십억개의 게시물이 올라온다. 기술적으로 점점 더 많은 잠재적 위협 표현을 규제하고 있으나, 99%의 정확도로 이를 시정해도 실수한 1%의 게시물의 수가 수천개에 달하게 된다"고 설명했다.



페이스북의 규정안이 파워포인트 슬라이드 형태로 배포되는 것도 문제다. 각국의 페이스북 관리자들은 이러한 낱개의 파일들을 숙지해 현실에 적용한다. NYT는 페이스북에는 수십개의 비공식적인 규정들만 있을 뿐 여전히 규제 가이드를 총괄한 구체적인 총괄 규제안은 부재한 상황이라고 꼬집었다.





페이스북 측은 "(파워포인트) 파일들은 관리자들의 훈련을 위한 것"이라고 해명했지만 정작 관리자들의 경우 해당 파일을 일상적 업무를 위한 주요 안내서라고 말한다.



페이스북이 특정 국가의 전쟁, 집단학살 등을 고조시키는 플랫폼으로 작용하는 경우도 있었다. 미얀마의 이슬람계 소수 민족인 로힝야족에 대한 게시물이 단적인 예시다. 유엔은 페이스북이 로힝야족 학살을 모도한 이들에게 플랫폼을 제공했다고 비난하기도 했다.



페이스북에서 일하는 대테러전문가 브라이언 피시맨은 "만약 해답을 갖고 있는, 권위있는 제3자가 있다면 문제는 쉬워질 것이다"며 "종종 이러한 일들은 우리가 행동 지침을 결정할 새도 없이 빠르게 터진다"고 말했다.



NYT는 여전히 페이스북이 표현 규제에 대한 정확한 기준안을 내놓지 못하고 있다고 지적했다.



리처드 앤런 페이스북영국 부사장은 "각국의 정부가 표준을 제정하고 (페이스북이) 이들과 일부 협력을 하는 방안이 더 나은 모델일 수도 있다"고 말한다. 피시맨 역시 "현지 문화와 정치의 미묘한 차이를 더 잘 이해할 수 있는 관리자들이 콘텐츠 규제와 관련해 더 큰 권한을 갖을 수 있도록 해야 한다"고 제안했다.



그러나 근본적인 의문점은 해결되지 않는다. 어떤 종류의 콘텐츠가 현실 세계에 직접적인 폭력으로 이어지는가. 언제 페이스북의 플랫폼이 사회적 긴장을 강화시키느냐하는 것이다. 지금의 대증 요법에 불과한 지금 방식으로는 문제를 해결할 수 없다.



페이스북은 지금도 더 많은 국가에서 자신의 세력을 넓혀가고 있다.



피시맨은 페이스북이 표현의 자유를 관리할 권위의 주체로 도약해도 되는지 여전히 의문이라며 "사회적 합의가 부족하다"고 말했다. 그는 "대안을 찾아가는 과정에서 우리는 난항을 겪고 있다"고 밝혔다.



sound@newsis.com



<저작권자ⓒ '한국언론 뉴스허브' 뉴시스통신사. 무단전재-재배포 금지.>
AD
온라인 구독신청 지면 구독신청

PHOTO & VIDEO

shpping&life

많이 본 기사

댓글 많은 기사