지금 내가 보는 기사와 얼굴, 진짜일까?...콘텐츠산업 속 AI 기술의 명암

AI가 만든 콘텐츠, 갈수록 정교해져
기사, 그림, 영상 등 구별 못 할 수준
편의성과 함께 딥페이크 등 유해성도 문제
AI 알고리즘, 가짜 리뷰의 약 20% 차지
“전쟁 시 악의적인 정보 확산에 쓰일 수도”

▲중국 상하이 엑스포에서 소비자들이 인공지능(AI)을 체험하고 있다. 상하이(중국)/신화뉴시스

인공지능(AI) 기술이 콘텐츠 산업에서 급성장하고 있다. AI가 쓴 기사가 온라인에 유통되고 있는가 하면 그림부터 제품 리뷰, 영상에 이르기까지 이 기술이 콘텐츠 산업에 미치는 영향은 엄청나다.

이런 AI 기술이 적용된 분야가 조만간 훨씬 더 많아질 것이고 AI가 만든 콘텐츠를 사람이 구별하기란 더는 쉽지 않을 것이라고 월스트리트저널(WSJ)이 최근 보도했다.

실제로 연구진과 콘텐츠 업계, 학자들에 따르면 AI가 글을 작성하는 기술은 이미 사람이 실제 작성한 것과 구분되지 않을 만큼 정교한 수준에 오른 것으로 평가받는다.

워싱턴D.C.에서 검색엔진 기업을 운영하는 애덤 크로니스터는 “매일 웹을 사용하는 대다수 사람이 AI가 만든 콘텐츠와 마주하지 않는다는 것은 아마도 불가능할 것”이라고 말했다. 그는 “우리 회사 고객사엔 수십 개의 중소기업이 있다”며 “이들 다수는 맞춤 제작된 AI 소프트웨어를 사용해 구글 검색 결과에서 상위를 차지하는 글을 빠르게 작성해 잠재 고객을 끌어들인다”고 설명했다.

구글 역시 AI가 작성한 글이 자사 포털에 노출되고 있는 사실을 알고 있다. 다만 구글 검색 담당자인 대니 설리번은 “AI가 만든 콘텐츠가 읽는 사람들에게 도움이 되는 이상 괜찮다”며 “우린 콘텐츠가 생산되는 방식보다 그 유용성에 중점을 둔다”고 말한다.

▲인공지능(AI)으로 그린 그림들. 출처 노벨AI 홈페이지.

AI를 통한 콘텐츠 자동화는 과거 사람이 맡았던 지루한 작업을 줄여준다는 점에서 강점이 있다. 사건 사고 기사를 단신으로 처리하거나 신상품의 색깔과 수치 등을 입력하는 것과 같은 일은 AI의 도움을 받으면 수월해진다. 유럽의 한 신문사는 기본적인 기사를 AI에게 맡긴 다음 최종 교열 단계에서 정치적 성향이나 회사 기조에 따라 수정하는 방식을 활용하는 것으로 전해진다.

AI 콘텐츠 서비스가 대성황이다 보니 그만큼 콘텐츠 제작자의 제작 실력도 나날이 느는 추세다. 이젠 글을 넘어 이미지나 영상, 음성, 고객 응대 서비스도 AI라는 것을 누구도 눈치 재지 못할 수준까지 올라오고 있다.

▲딥페이크 기술을 활용한 유명인물 얼굴 바꾸기. 출처 딥페이크스웹 홈페이지.

다만 일부 합성 콘텐츠와 같이 이용자를 속이려는 의도로 만들어진 경우엔 매우 높은 위험이 수반된다. 일례로 영상 속 사람의 얼굴을 바꾸는 딥 페이크 기술이 성범죄에 악용되는 경우가 그렇다.

산업에 미치는 영향도 크다. 가짜 리뷰 선별 업체인 페이크스팟의 사우드 칼리파 최고경영자(CEO)는 “아마존과 같은 인터넷 쇼핑몰에선 알고리즘으로 만들어진 가짜 리뷰가 늘고 있다”며 “가짜 리뷰 대부분은 지금도 사람이 쓰고는 있지만, AI 알고리즘은 약 20%를 차지하고 있다”고 말했다.

이러한 행태는 기업 상품의 신뢰성을 해칠 우려가 있기 마련이다. 다만 아마존 측은 “페이크스팟은 우리 내부 데이터에 접근할 수 없어 리뷰 진위를 구분하는 것은 불가능하다”고 반박해 업계 간 또 다른 갈등 양상을 보인다.

WSJ는 “지금까지 자동화를 경험한 많은 산업에서 그랬듯, 노동자로 구성된 대규모 생태계가 (AI에 기반을 둔) 소수의 대기업으로 대체되면서 사람들의 사고방식 형성에 더 큰 권력을 쥘 위험이 있다”며 “최악의 경우 전쟁과 같은 위기 상황에서 악의를 가진 사람이 가짜 정보를 확산하는 강력한 도구가 될 수 있다”고 경고했다.