preLoad Image preLoad Image
검색 바로가기
주메뉴 바로가기
주요 기사 바로가기
다른 기사, 광고영역 바로가기
중앙일보 사이트맵 바로가기
닫기
닫기

페북서 '초'만 쳐도 '초딩XX'…AI도 못 잡는 음란성 키워드

미성년자 성적 대상화도 버젓이 검색어에

카카오가 23일 포털 다음과 카카오 샵(#)탭에서 관련 검색어와 자동완성 검색어를 폐지한다고 밝히는 등 포털·SNS 업계에 검색어 개편 바람이 부는 가운데 페이스북의 관련 검색어가 논란이 되고 있다.
 
페이스북이 미성년자와 음란성 키워드를 동시 노출하는 검색어를 방치하고 있다는 비판이다. 페이스북 검색창에 '초딩', '중딩', '고딩' 등 미성년자와 관련된 자동완성 검색어에는 '가슴', 'XX(여성의 성기를 지칭하는 은어)', '은꼴(성적으로 은근히 흥분되는 것)', '발육' 등의 부적절한 음란성 키워드가 상위 노출된다. 이는 22일 페이스북과 트위터 등 소셜네트워크서비스(SNS)를 통해 알려졌다.
 
페이스북의 자동완성 상위 노출 검색어가 미성년자와 음란성 키워드를 방치해 문제가 되고 있다. [사진 페이스북 캡처]

페이스북의 자동완성 상위 노출 검색어가 미성년자와 음란성 키워드를 방치해 문제가 되고 있다. [사진 페이스북 캡처]

 

검색어에 여성혐오 만연…"젠더 의식 민낯"

페이스북에서 '여자'·'여학생'을 입력하면 바로 뒤에 '몸매', '신음' 등 혐오 키워드가 자동으로 붙는 반면, '남자'·'남학생' 뒤에는 '지갑', '코디' 등 평범한 키워드가 상위에 노출됐다. '여학생' 뒤엔 '강간' 같은 성범죄 키워드가 자동 완성되기도 했다.
 
특정 직업군을 성적 대상화하는 검색어도 상위에 노출됐다. '간호사'나 '스튜어디스' 등의 키워드 뒤에는 '19', '강간', '몸매' 등이 따라붙었다. 이에 대해 황진미 문화평론가는 "페이스북 사용자들의 젠더 의식이 얼마나 잘못돼 있는지를 보여주는 일면"이라며 "특히 미성년자를 성범죄 대상으로 보는 시선에 대한 문제 인식이 없다"고 설명했다.
 
유튜브의 자동완성 검색어 또한 '여자' 뒤에 성적 대상화를 암시하는 키워드가 붙는다. '초딩' '중딩' 등의 미성년자 키워드는 자동완성 검색어 대상에 포함되지 않았다. [사진 유튜브 캡쳐]

유튜브의 자동완성 검색어 또한 '여자' 뒤에 성적 대상화를 암시하는 키워드가 붙는다. '초딩' '중딩' 등의 미성년자 키워드는 자동완성 검색어 대상에 포함되지 않았다. [사진 유튜브 캡쳐]

 
페이스북코리아 관계자는 "(자동완성 검색어는) 이용자의 검색량을 기준으로 상단에 노출되는 것"이라며 "음란성 키워드와 아동 성 착취 관련 게시물, 혐오·테러·마약·총기·가짜 계정 등은 페이스북이 자체적으로 걸러내고 있으며, (검색어에 노출되더라도) 실제 콘텐트가 노출되지 않게 하는 것을 우선순위에 두고 있다"고 해명했다.
 
페이스북은 지난달 발간한 '페이스북 투명성 보고서'에서 올해 3분기에 삭제한 혐오 콘텐트가 700만건, 아동 나체·성 착취 콘텐트가 1160만건이라고 밝혔다. 페이스북의 자회사인 인스타그램이 같은 기간 삭제한 혐오 콘텐트는 84만5400건, 아동 나체·성 착취 콘텐트는 75만3700건이었다.
 

페북은 왜 관리 못 하나

그러나 페이스북 측은 문제가 된 자동완성(추천) 검색어에 대해 "추천 검색어의 경우 '초딩'과 '가슴'은 각 단어만 놓고 보면 가치 중립적이기 때문에 인공지능(AI)의 상시 모니터링에 걸리지 않은 것 같다"며 "추천 검색어의 경우, 문맥을 파악할 수 있는 사람이 직접 관리하기 때문에 발견하는 데 시간이 걸리고, '초딩 가슴' 등의 키워드 조합이 커뮤니티 표준(페이스북 정책)에 위반되는지부터 검토해야 해서 정책 수립까지는 오랜 시간이 걸릴 것"이라고 설명했다. 그러면서 "최근에도 단속을 시행했다"고 덧붙였다. 구체적인 단속 시기는 공개하지 않았다.
 
네이버·다음 등 국내 사업자의 경우 한국인터넷자율정책기구(KISO) 가이드라인에 따라 음란성 키워드를 배제하고 있다. 그러나 해외 사업자인 페이스북은 규정 적용 대상이 아니다. 페이스북 측은 "커뮤니티 표준이 KISO 가이드라인을 대부분 커버하고 있어 KISO에 가입할 필요가 없다고 판단했다"며 "방송통신위원회·방송통신심의위원회·경찰청·선거관리위원회와는 핫라인을 두고 부적절 게시물 삭제 요청 등이 오면 법률 검토를 거쳐 처리하고 있다. 커뮤니티 표준 또한 강화하는 추세"라고 설명했다.
 
황 평론가는 "다른 곳들은 모두 (키워드 필터링을) 하고 있는데 필터링하지 않는 것은 마땅히 해야 할 사회적 책임의 방기"라며 "사회에 좋지 않은 영향을 끼친다는 것을 알고, 기술적 정화를 할 수 있는데도 하지 않는 것은 큰 문제"라고 지적했다.
 

관련기사

김정민 기자 kim.jungmin4@joongang.co.kr 
AD
온라인 구독신청 지면 구독신청

PHOTO & VIDEO

shpping&life

많이 본 기사

댓글 많은 기사