[글로벌 딥페이크 음란물 공포] “가상의 총기나 마찬가지…온라인 접속 무서워진 10대 소녀들”

#지난해 10월 미국 뉴저지주 웨스트필드의 한 고등학교에 다니는 소녀는 남학생들이 평소보다 조용하거나 속삭이는 듯한 이상 행동을 감지했다. 여학생들은 이러한 남학생들의 태도에 질문을 쏟아내기 시작했다. 며칠 뒤 한 남학생이 여학생 몇 명에게 사실을 털어놨다. 적어도 한 명의 학생이 온라인에서 찾은 여학생들의 사진을 이용해 음란물을 만들어 그룹 채팅에 공유했다는 것이다.

인공지능(AI)이 만든 가짜 나체 사진이 전 세계 청소년들을 위협하고 있다. 학교 졸업 파티 등에서 찍힌 사진이나 자신이 소셜미디어에 올린 셀카가 일명 ‘누드화’ 앱을 통해 그럴듯한 이미지로 옷이 벗겨진 채 유포되고 있다. 각국 정부와 입법기관, 그리고 학교가 빠르게 발전하는 새 기술을 따라잡기 위해 고군분투하고 있지만 책임을 묻거나 도움을 요청할 방법이 현재는 제한적이라고 최근 월스트리트저널(WSJ)이 보도했다.

사이버 보안업체 시큐리티히어로에 따르면 지난해 전 세계적으로 확인된 딥페이크 포르노 수는 2만1019건으로 전년 대비 464% 급증했다. 전체 딥페이크 영상 중 음란물이 차지하는 비중은 98%나 된다. 또 딥페이크 음란 영상물의 표적이 되는 사람의 99%는 여성인 것으로 나타났다.

이제는 누구든지 딥페이크 앱을 통해 단 한 장의 선명한 얼굴 이미지만을 이용해 60초짜리 딥페이크 음란 영상물을 25분 이내에 무료로 만들어 낼 수 있다. 딥페이크 음란물 사진의 경우에는 더 만들기 쉽다. 딥페이크 AI 앱은 몇 초 만에 여성의 사실적인 누드 이미지를 생성해낸다.

더 큰 문제는 10대 여성 청소년들이 이러한 AI 범죄의 표적이 되고 있다는 사실이다. WSJ에 따르면 지난해 말 웨스트필드 고등학교 사건 이후 미국에서만 해도 여러 건의 유사 사례가 발생했다. 캘리포니아주 베벌리힐스의 한 중학교에서는 5명의 학생이 같은 반 친구의 나체 사진을 AI로 생성한 혐의로 기소돼 퇴학 처분을 받았다. 마이애미주의 한 중학교에서도 급우들의 가짜 나체 사진을 만들어 공유한 10대 남학생 2명이 적발됐다. 이밖에 다른 여러 학교에서도 이러한 이미지가 공유됐다는 신고가 접수돼 조사가 진행됐다.

AI가 만든 가짜 음란물들은 실질적인 문제를 남긴다. 전문가들은 합의되지 않은 AI 생성 이미지를 사용해 여성 청소년들을 괴롭히고 모욕하고 괴롭히는 행위가 정신 건강, 평판, 신체적 안전 등을 해칠 수 있다고 지적했다. 안드레아 파월 ‘이미지 기반 성폭력 이니셔티브’ 책임자는 “AI 딥페이크 누드 앱은 ‘가상의 총기’나 다름없다”며 “11세, 12세 소녀들이 온라인을 무서워하는 지경에 이르렀다”고 말했다.

특히 피해자들은 동급생 등 자신과 잘 알고 지내던 인물에게 배신을 당했다는 사실에 더 충격을 받는 것으로 나타났다. 뉴저지 웨스트필드 고등학교의 한 학생은 “AI 기술이 이렇게 복잡하고 무서운 것인지 몰랐다”며 “우리는 세상에 소름 끼치는 남자들이 있다는 것을 알고 있었지만, 같은 반 친구 중 한 명이 이런 식으로 폭력을 행사할 것이라고는 생각하지 못했다”고 강조했다.