[플라자] 발등의 불이 된 AI發 가짜뉴스

인공지능(AI) 시스템의 활용은 사회적 혜택과 경제성장을 가져오고 있다. 또한 AI는 국가 혁신과 글로벌 경쟁력을 강화할 수 있는 강력한 잠재력을 내재하고 있다. 하지만 AI 활용이 급증하며 이와 관련한 윤리·철학적 사용 논란, 특정 콘텐츠에 대한 AI 기술 적용 시의 문제점이 제기되어 왔다. 특히 챗GPT 등으로 알려진 생성형 AI(Generative AI)의 사용이 확산되며 심각한 부작용이 예측되어 왔다. 현재 생성형 AI 기술은 텍스트, 코드 생성, 이미지, 음성합성 기술(Speech synthesis), 영상 및 3D 모델, 오디오 및 음악 등 다양한 영역과 산업군에서 활용되고 있다. 생성형 AI는 인터넷상의 광범위한 데이터를 통해 자체적으로 생성물을 창작함에 따라 진위 판별과 저작권 등의 법적 책임이 불분명한 상황이다.

미·EU, 선거에 악용 우려…규제입법 빨라져

이러한 상황에서 주요국들은 생성형 AI가 선거에 미칠 방해 행위에 주목하고 있다. 최근 생성형 AI에 의한 거짓뉴스, 딥페이크(deepfake) 및 위조를 통한 허위 영상 생성 등 선거를 방해하는 행위가 다수 발생해 왔기 때문이다.

젤렌스키 우크라이나 대통령의 항복선언 가짜영상, 미 국방부 폭발의 딥페이크 가짜영상, 트럼프 전 대통령 등 유명 정치인에 대해 악의적으로 생성된 가짜영상 등은 사회에 충격을 주었다. 최근에는 전문가도 분별하기 힘든 가짜영상이 생성되며 그 파장이 우려되고 있는 것이다.

다수 국가들이 AI 규제를 준비하고 있는 가운데, 미국과 EU는 생성형 AI에 대한 규제 입법에 앞장서 왔다.

미국에서는 2019년 행정명령 제13859호에서 ‘미국 인공지능 구상’을 공표한 이후, AI 관련 규제 입법을 추진해 왔으나, ‘미국인공지능진흥법’ 등의 지원책만 결의되었을 뿐 생성형 AI 기술을 규제하는 안을 의결하지 못하고 있다. 다만 미국 정부는 정치 광고에 AI를 사용했으면 출처를 표기하는 법안을 발의하였을 뿐이다. 미 정부의 AI 관련 입법 추진에도 불구하고, 생성형 AI 기술 규제 영역에 대한 준비가 미진한 상황인 것이다.

반면 유럽은 AI 규제에 한발 앞서고 있다. EU 집행위원회는 지난 2021년 4월 AI 규제 초안을 공표하였다. 이후 논란을 거쳐 2023년 6월 유럽의회의 동의하에 해당 규제안은 연합의 정책결정시스템인 3자입법(집행위원회, 유럽의회, 각료이사회)의 과정에 진입하였다.

AI 규제안은 초안 제출 이후 만 2년이 넘게 걸려 본회의에 해당하는 3자입법 과정에 이른 것이다. AI라는 기술 영역에 대한 규제심사와 법적 정합성 여부의 검토에 기간이 걸린 점도 있으나, 규제가 오히려 미래시장의 성장을 저해하는 것은 아닌지에 관한 논란도 쟁점이 되었다. 규제 초안 검토 시기 가장 논란이 된 영역은 생성형 AI에 관한 것이었다. 2021년 제출된 기존 초안에 생성형 AI가 따로 분류되지 않았으나, 검토 기간 중 해당 영역의 확산이 두드러져 이에 관한 규제를 어떻게 다룰 것인지가 논란이 되었다. 이에 3자입법에 제출된 최종안에는 생성형 AI 영역이 신설된 것이다.

허위정보에 벌금 부과·책임자 처벌 방침

EU는 이전 시기 가짜뉴스의 SNS 확산으로 인한 선거 교란행위를 막기 위해 허위정보실천강령(Code of Practice on Disinformation)을 강화하여 책임자 처벌과 수익에 대한 최고 6% 벌금 부과 방침을 공표한 바 있다.

또한 디지털 서비스법(Digital Services Act)을 통해 디지털 플랫폼에 가짜뉴스, 딥페이크 사건들에 대한 1차적 책임을 디지털 플랫폼 회사에 물도록 하였다.

AI 규제안에는 생성형 AI에 관한 투명성 요구 사항이 추가되었다. 구체적으로 AI가 제작한 콘텐츠임을 공개, 불법 콘텐츠 생성을 방지하도록 모델 설계, 훈련에 사용된 저작권 데이터의 요약 게시가 의무화된 것이다. EU AI 규제가 3자 입법 과정에 진입했으나, ‘생체 인식 감시’ 등의 특정 문제에 대한 유럽의회와 각료이사회 간 상당한 입장 차이가 있어 난항이 예상된다.

내년에는 우리도 국회의원 선거를 치를 예정이다. 생성형 AI 선거에 오용 및 악용될 우려가 있음에 따라, 우리 사회도 기민한 대응이 필요하다.