AI, 전 세계 선거 개입 우려 확산…정치 용병 노릇할까

▲소셜미디어 X(구 트위터)를 통해 3월 확산했던 도널드 트럼프 전 미국 대통령의 체포 장면. 딥페이크를 통한 가짜뉴스로 밝혀졌다. 출처 뉴욕포스트 캡처

AI 역할이 확대되면서 주목받는 또 하나의 분야가 바로 정치다. 정치는 누군가를 설득하고 이해시키는 일을 기반으로 둬야 하지만, 늘 선전과 홍보로 뒤덮여왔다. 이 과정에서 가짜뉴스, 선동, 과장 등은 빼놓을 수 없는 도구가 됐다.

이제 AI 기술까지 발전하면서 AI가 전 세계 선거에 개입할 수 있다는 우려가 커지고 있다. 특히 2024년은 선거의 해라고 해도 과언이 아니다. 미국을 비롯해 영국과 인도, 인도네시아, 멕시코, 대만 등지에서 40억 명의 시민들이 투표를 기다리고 있다.

영국 주간 이코노미스트는 최근 “대형 언어 모델을 통해 가짜뉴스량이 1000배, 10만 배로 늘게 되면 사람들이 다른 사람에게 투표하도록 설득될 수 있다”며 “초현실적인 딥페이크는 가짜 오디오와 사진, 비디오가 사실이 아닌 것으로 밝혀지기 전까지 유권자를 흔들 수 있다”고 지적했다.

AI를 이용하면 유권자별로 고도로 개인화한 선전을 펼칠 수 있다는 점도 주목했다. 마치 유튜브가 알고리즘을 통해 이용자가 선호하는 콘텐츠를 중점적으로 제공하는 것과 유사하다. 특정 유권자에게 듣고 싶었던 가짜뉴스만 골라 전달하는 것이다. 이로 인해 과거 가짜뉴스를 직접 퍼뜨리던 노력보다 AI를 통한 확산이 더 탐지하기 어려울 것으로 이코노미스트는 내다봤다.

반대로 AI가 2500년 역사를 가진 인류의 민주주의를 파괴하지 못할 것이라는 이유도 있다. 사실 유권자를 설득하기란 매우 어려운 일이다. 특히 대선과 같은 중요한 정치적 이벤트에선 더더욱 그렇다. 여기엔 ‘나보다 옆 사람 속이는 게 더 쉬울 것’이라고 자신하는 많은 사람의 인식도 한몫한다. 미국에서 선거 캠페인이 수십억 달러를 쏟아붓고도 승리하기 어려운 이유다.

또 하나의 이유로는 이미 가짜뉴스를 생성하는 도구가 수십 년간 존재했다는 점이 있다. AI가 가짜뉴스 양산을 쉽게 해줄지언정 새로운 등장은 아니라는 것이다. 이런 이유로 이코노미스트는 “내년 미국 대선 캠페인은 법치와 진실성에 관한 잘못된 정보들로 얼룩질 것”이라면서도 “그 원인이 챗GPT처럼 새로운 것은 아닐 것”이라고 설명했다.

기업들의 역할론도 있다. 생성형 AI로 급부상한 챗GPT 개발사 오픈AI는 자사 제품의 정치적 영향력을 탐지하기 위해 모니터링하겠다고 약속했다. 2016년 선거에서 가짜뉴스를 전파했다는 이유로, 또 2020년엔 지나치게 많은 콘텐츠를 삭제했다는 이유로 비판받았던 빅테크들은 이제 의심스러운 계정과 콘텐츠를 식별하는 데 더 능숙해졌다. 알파벳과 메타 등 기업들은 정치 광고에 가짜뉴스가 사용되는 것을 금지하고 있으며 실제 사진과 영상 출처를 확립하는 기술 표준을 만들기 위해 노력 중이다.