• 女元시대
• 정치
• L&G경제
• 사회
• 문화
• 워라벨
• 오피니언
• 날씨,여행
• 財테크
• 스포츠
• 이슈

페이스북은 왜 '한남충'은 안 되고 '김치녀'는 괜찮다고 하나?

페이스북 "AI 기술로 혐오 발언 80% 자동 감지·삭제"

[yeowonnews.com=윤영미기자]  페이스북이, 인공지능(AI) 기술로 테러·불법 무기, 약품 거래 등은 물론 혐오 발언까지도 대부분 자동 감지·삭제하고 있다고 28일 밝혔는데, 이러한 조치가 인터넷의 일부 부정적 영향력을 감소해주었으면 좋겠다는 것이 뜻있는 페이스북 유저들의 견해다.

▲ 전세계에서 1만5천여명이 한국어를 포함한 50개 이상의 언어로 365일 24시간 잠재적 유해 콘텐츠를 검토하고 있다고 페이스북이 발표했다.     © 운영자

페이스북은 이날 공개한 올해 2~3분기 커뮤니티 규정 집행 보고서에서 "유해 콘텐츠 전반에서 규정 집행을 강화해왔으며, AI에 대한 지난 5년간의 지속적인 투자를 통해 콘텐츠의 감지 및 삭제율을 높이고 있다"고 밝혔다.

이어 "혐오 발언 관련 위반 사항을 감지하는 시스템은 지속적으로 향상돼 올해 2분기부터 일부 게시물을 자동으로 삭제해오고 있다"며 "사전 감지율은 지난 보고서의 68%에 비해 크게 향상된 80%를 기록했다"고 설명했다.

"페이스북, 진짜로 신경 써야 한다. 영향력 있는 sns 들이 정신 차리고 신경 써준다면, 인터넷이 많이 정화될 것이다." 라고 중학교 교사 A씨(34. 국어 담당) 는 기자와의 전화 통화에서, 우선 찬성울 표시하면서, "그러나 감시 삭제 기능은 더 강화되어야 한다. 페이스북의 이번 조치가 우리 사회에 좋은 영향을 미쳤으면 좋겠다"고 찬성의 뜨을 표했다.

기존에 혐오 발언으로 판별된 텍스트와 동일한 문자열 혹은 이미지를 포함하는지 식별해내는 매칭 기능, 혐오발언 콘텐츠에서 나타나는 공통적인 문구나 패턴의 유사성을 평가하는 머신러닝 식별 기능 등 감지 기법을 쓰고 있다고 페이스북은 소개했다.

그러나 혐오 발언의 기준이 명확하지 않은 경우가 많아 판단에 사람이 개입하는 경우도 적지 않다고 연합뉴스는 지적하고 있다. .

유동연 콘텐츠 정책 매니저는 "혐오 발언이나 따돌림 및 집단 괴롭힘과 같은 항목의 경우 콘텐츠의 뉘앙스 및 맥락을 파악하는 것이 중요하기 때문에 판단에 대한 정확도에 있어 AI에만 의존할 수 없는 영역"이라고 설명했다.

▲ 페이스북의 유동연 콘텐츠 정책 매니저가 페이스북의 이런 방침을 발표하고 있다.     © 운영자

가령, '쪽○○'처럼 국적을 비난하는 발언은 판단 기준이 비교적 명확하다. 

그러나 '한남충'은 삭제됐지만 '김치녀'는 남아 있어 한때 논란을 일으키기도 했다.

유 매니저는 "'한남충'은 한국이라는 국적을 기반으로 한 혐오 표현이기 때문에 규정에 따라 삭제 조치했다"며 "'김치녀'는 게시자의 주관적인 의견을 바탕으로 정의한 일부를 나타내는 표현이기 때문에 삭제하지 않았다"고 설명했다.

페이스북은 이 밖에도 테러 선동, 아동 나체 이미지 및 아동에 대한 성착취, 불법 무기 및 의약품 거래 등 유해 콘텐츠에 대해선 90% 후반대의 사전 감지율로 사용자 신고 이전에 삭제 조치하고 있다.

현재 전 세계에서 1만5천여명이 한국어를 포함한 50개 이상의 언어로 365일 24시간 잠재적 유해 콘텐츠를 검토하고 있다고 회사는 전했다.