‘AI의 그림자’…스위프트 음란 딥페이크 이미지에 미국 발칵

▲인기 팝가수 테일러 스위프트가 지난해 10월 11일 투어 콘서트 영화인 ‘디 에라스’ 시사회에 참석해 포즈를 취하고 있다. 로스앤젤레스(미국)/로이터연합뉴스

팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란한 딥페이크 이미지가 온라인상에서 확산해 전 세계 팬들이 공분했다. 이 이미지는 인공지능(AI) 도구로 생성된 것으로 추정된다.

최근 딥페이크 피해 사례가 잇따르는 가운데 미국 최고 인기 여가수가 피해를 보자 관련 규제 필요성에 대한 목소리가 한층 더 탄력을 받고 있다고 27일(현지시간) NBC뉴스가 보도했다.

최근 스위프트의 얼굴에 노골적인 성적 자세가 합성된 딥페이크 이미지가 소셜미디어 X(엑스·옛 트위터) 등에서 확산했다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 지칭한다.

뉴욕타임스(NYT)에 따르면 현재 해당 이미지를 올린 소셜미디어 계정들이 정지돼 찾기 어렵지만, 삭제 전까지 조회 수가 4700만 회가 넘었다. 시초는 아직 불분명하며 주로 X에서 퍼지고, 인스타그램 등 다른 SNS를 통해서도 공유됐다.

AI 탐지를 전문으로 하는 사이버보안업체 리얼리티디펜더는 해당 이미지가 AI 도구를 사용해 생성됐을 확률이 약 90%라고 분석했다. 이번 스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 뜨거워지고 있다.

카린 장-피에르 백악관 대변인은 전날 브리핑에서 이번 스위프트의 딥페이크 이미지에 대해 “매우 우려한다”면서 “생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있으며 의회도 전략적인 입법 조치가 필요하다“고 밝혔다.

▲사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 9일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·IT 전시회 ‘CES 2024’에서 기조연설을 하고 있다. 라스베이거스(미국)/AFP연합뉴스

NBC방송에 따르면 마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO)도 30일 방영될 나이트쇼 앵커 레스트 홀트와 26일 가진 인터뷰에서 스위프트의 딥페이크 사태에 대해 “놀랍고 끔찍하다”면서 “우리의 책임은 안전한 콘텐츠가 더 많이 생산될 수 있도록 많은 노력을 기울여야 하고 이미 상당히 진행되고 있다”고 말했다. 그는 또 “법 집행기관과 기술 플랫폼이 함께할 때 훨씬 더 많은 것을 규제할 수 있다”고 제시했다.

스위프트의 이미지는 MS의 생성형 AI 도구인 ‘디자이너’로 만들어졌다는 주장이 제기돼 MS 측도 현재 조사에 나선 상태다.

앞서 딥페이크 폐해는 11월 미국 대통령 선거를 앞두고 본격적인 선거철을 맞아 공감대가 쌓이고 있었다. NBC방송은 22일 뉴햄프셔주 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화가 기승을 부렸다고 전했다.

이에 미국에서는 딥페이크 선거운동을 규제하기 위한 발의가 잇따르고 있다. 미국 내 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다. 이들 법안은 AI로 생성한 콘텐츠의 경우 이를 표시하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담고 있다.