콘텐츠 모니터링에 거액 쏟아붓는다는데...해당 영상, 사건 발생 12시간 후에도 SNS 떠돌아
호주 국적의 브렌턴 태런트는 전날 뉴질랜드 남섬 최대 도시인 크라이스트처치에 있는 이슬람 사원 2곳을 돌아다니며 예배자를 향해 총기를 난사했다. 게임하듯 총격을 가하고 희생자들이 바닥에 쓰러지는 모든 장면을 페이스북 라이브로 생중계했다. 미아 갈릭 페이스북 뉴질랜드 지사 대변인은 “경찰로부터 연락을 받고 곧바로 해당 영상을 삭제했다. 용의자의 페이스북과 인스타그램 계정도 삭제했다”며 “총격 사건을 찬양하는 글도 발견 즉시 삭제하고 있다”고 밝혔다.
페이스북에서 생중계 된 영상이 유튜브와 트위터 등 다른 소셜미디어를 통해 확산되자 해당 기업들도 계정을 삭제하고 영상을 제거하는 등 즉각 조치에 나섰다. 그러나 사건 발생 12시간이 지난 후에도 해당 영상을 유튜브에서 발견했다는 신고가 이어지고 있다고 CNBC는 지적했다.
‘불량’ 콘텐츠들이 넘쳐나는 플랫폼의 위험성에 대한 지적은 계속돼 왔다. 페이스북에서 총격과 자살 등 잔인한 영상이 걸러지지 않고 그대로 전해진다는 이유였다. 유튜브의 추천 알고리즘도 극단주의 성향의 영상과 잔혹한 콘텐츠를 걸러내지 못하고 있다는 지적을 끊임없이 받아왔다.
마리안 프랭크 마이애미대학 법학교수는 “본질적으로 소셜미디어의 생방송 콘텐츠에 대한 사전 관리는 불가능하다는 걸 이번 사건은 보여줬다”며 “페이스북은 끔찍한 폭력 행위 조장과 확산에 책임을 져야한다”고 지적했다.
그동안 빅테크 기업들은 관련 문제를 해결하기 위해 콘텐츠 모니터링에 대규모 인원과 돈을 투입하고 있다고 밝혀왔다. 2017년 페이스북 플랫폼에서 자살 행위가 생중계 된 후 페이스북은 1만 5000명 이상의 직원을 콘텐츠 모니터링에 투입하고 있다고 설명했다. 유튜브 역시 수천 개의 동영상을 삭제하기 위해 스마트 탐지 기술을 도입했다고 밝혔다.
그럼에도 관련 사건이 반복되면서 테러 확산의 창구로 악용될 가능성을 우려하는 목소리가 커지고 있다. 네일 바수 영국 런던경찰청 대테러대책본부장은 “우리는 테러 관련 내용을 삭제하기 위해 소셜미디어업체와 협력하고 있다”면서도 “소셜미디어 기업들이 해당 콘텐츠를 플랫폼에서 제거하기 위해 보다 신속하게 행동해야 한다”고 강조했다.
지금까지 인터넷에서 활동하는 극단주의자들은 이슬람국가나 알카에다 같은 테러조직과는 다른 특성을 보인다고 여겨져 왔다. 그러나 이런 흐름이 바뀌고 있다고 전문가들은 분석한다. 조나단 스티븐슨 국제전략연구소(IISS) 선임연구원은 “극우성향의 개인들이 인터넷 특히 소셜미디어를 자유롭고 창의적인 방식으로 활용하며 초국가적인 차원에서 테러 공격을 장려하고 위협을 가하고 있는 것으로 보인다”며 “저급한 콘텐츠로 언론의 주목을 끌면서 동시에 해당 내용에 동조하는 다수의 청중을 목표로 삼고 있다”고 경고했다.