[사설] ‘딥페이크’가 선거 민심 더럽히는 불상사 없어야

중앙선거관리위원회가 어제 인공지능(AI) 기반 ‘딥페이크’를 활용한 선거운동을 전면 금지했다. 실제와 구분하기 어려운 가상의 음향·이미지·영상은 4월 총선까지 제작·편집·유포·상영할 수 없다. 민주주의 최대 위협 요소를 사전에 차단하겠다는 것이다. 당내 경선이나 투표 참여 권유 등에선 허용된다.

딥페이크는 대중을 감쪽같이 속일 수 있다. 사실과 거짓을 분별하기 여간 어렵지 않다. 최근 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 엑스(X, 옛 트위터)에서 확산돼 미국 사회가 발칵 뒤집혔다. 유명인뿐만 아니라 아동·청소년, 일반인도 무차별적인 범행 대상이 될 수 있다.

선거 영향력도 막강하다. 상대 후보자의 얼굴로 조작한 부적절한 영상이나 가짜 뉴스가 유권자들의 판단을 흐릴 수 있다. 빌 게이츠 마이크로소프트(MS) 창업자는 “AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다”고 했다. 경고는 현실화하고 있다. 지난해 튀르키예 대선 때 야당 후보는 테러 단체 지지를 받았다는 딥페이크 영상으로 심각한 타격을 입었다. 며칠 지나지 않아 가짜 영상으로 밝혀졌지만, 선거는 끝난 뒤였다. 이 후보는 3선에 도전한 에르도안 대통령에게 근소한 차이로 패배했다. 딥페이크 영향이 없었다고 할 수 없다.

미국 대선전도 몸살을 앓고 있다. 지난해 민주당 출신 힐러리 전 미국 국무장관이 론 디샌티스 공화당 후보를 공개 지지한 것은 가짜였다. 디샌티스 후보가 “대선 경선을 포기하겠다”고 선언한 영상도 딥페이크로 제작됐다. 경쟁자인 도널드 트럼프 전 대통령이 ‘루머가 돌고 있다’고 가능성을 언급한 후에 나와 파괴력이 컸다. 미국 뉴햄프셔주에서는 바이든 대통령의 목소리와 비슷한 가짜 전화가 유권자들에게 걸려와 논란이 됐다.

딥페이크는 여론 조작과 선동의 도구로 오남용되기 일쑤다. 사실과 거짓말을 엮는 조작으로 선거 민심을 흔든다. 생성형 AI를 활용해 댓글을 자동으로 달 수 있는 프로그램도 온라인상에서 수십~수백만 원에 거래되고 있다고 한다. 딥페이크, 생성형 AI 등의 신기술이 민주주의의 토대를 공격하는 꼴이다.

사이버테러도 위험을 키운다. 국정원에 따르면 지난해 공공분야 해킹 공격 건수는 하루 평균 162만 건으로 전년 대비 36% 증가했다. 북한이 80%로 대부분을 차지했다. 중국은 5%에 불과했으나 피해 심각도는 21%나 됐다. 북한은 68%였다. 4월 총선을 앞두고 북한의 사이버 공격이 심해질 수 있다.

선관위는 국정원의 사이버 보안 관리 부실 지적에 따라 서버 접근 통제 강화, 수작업 개표 등 개선책을 마련했다고 한다. 모니터링 요원 등 62명으로 구성한 AI 특별전담반도 가동했다. 총선이 임박하면 정리정돈이 필요한 콘텐츠 물량도 기하급수적으로 늘게 마련이다. 땜질식이 아닌 철저한 대비가 필요하다. AI 악용 범죄를 차단할 수 있는 강력한 제도적 장치를 하루빨리 마련해야 한다. 가짜 뉴스에 현혹된 결정이 끔찍한 결과를 낳을 수 있다는 점을 거듭 명심할 일이다.