[곽재원의 4차 산업혁명] AI가 몰고온 변화와 우리의 현실

이제 돌이킬 수 없는 곳까지 진화를 계속해 온 AI와 어떻게 공존해 인간 사회에 살릴 것인가에 대한 논의가 크게 일고 있다. 먼저 챗GPT 등 고도의 AI에 대한 우려를 꼽을 수 있다. 일론 머스크 테슬라 최고경영자(CEO) 등 저명한 기업가와 학자들은 개발 중단을 요구했다. 이탈리아 정부는 프라이버시 측면에서 사용을 일시적으로 금지하기도 했다.

무엇이 문제의 근저에 있는가. 전직 구글 직원으로 AI가 사회에 미치는 영향을 연구하고 경종을 울려온 메러디스 휘태커 전 뉴욕대학 연구교수는 챗GPT가 “매우 무책임하고 무모하다”고 강하게 비판한다. 윤리적인 면에서 우려가 크다는 것이다. 가장 문제가 되는 것은 세계에서 손에 꼽을 만한 기업만이 이러한 AI를 개발하고 제공할 자원을 가지고 있다는 점이다. 이는 중립적이지도 않고 민주적이지도 않으며, 궁극적으로 그들의 이익으로 연결되도록 만들어져 있다고 그는 설명한다.

실제로 이러한 기업은 방대한 데이터와 클라우드 설비, 그리고 구글의 지메일 또는 메타의 페이스북을 통해 데이터를 계속 추출해 내는 거대한 소비자 시장을 갖고 있다. 지금 화제가 되는 AI는 이러한 자원과 권한 집중의 결과로 생겨난 것이지 기술적 혁신의 성과가 아니다. 그러나 ‘인간보다 똑똑하다’는 과대선전이 아직 정확성과 안전성도 모른 채 실험적 기술을 정당화하는 데 이용되고 있는 것도 사실이다.

이들 소수에 권력이 집중되고 있는 이유는 인터넷 비즈니스 모델을 이른 시기에 확립했기 때문이다. 전문용어로 ‘감시 비즈니스 모델’이다. 지메일이나 페이스북에서 수집된 대량의 데이터가 2010년대 초반에 데이터센터에 집약되었다. 이런 대기업의 데이터가 지금의 AI로 이어지고 있다. 즉 AI는 감시 모델의 연장선상에 있다. AI가 기술적 도약이라기보다는 권한 집중의 결과라고 할 수 있다는 얘기다.

독점적인 거대 IT기업은 감시로 얻은 데이터를 광고로 수익화한다. 그 수익에 따라 높은 인프라 비용을 충당하고 데이터를 집약해 AI를 훈련한다. 이 구조는 지금까지와 다르지 않다.

한편 이 AI 자체가 독자적인 감시 기능을 제공할 수 있게 된다. 예컨대 기존과 같은 나의 위치 정보라든지, 좀 더 내면적인, 추론적인 형태로 ‘나’에 대해 밝혀낼 수 있다. AI와 감시 모델의 관계는 더 강해질 수 있다.

오픈AI에 출자한 마이크로소프트(MS)는 챗GPT를 검색 서비스 등으로 넓혀나가고 있다. 사회에 미치는 영향이 한층 보이지 않는 단계로 나아가고 있는 것이다. 메러디스 휘태커가 매우 무책임한 행동이라고 비판한 것은 바로 이 때문이다. 그는 일부 대기업의 결정으로 생기는 문제를 우리 사회가 뒷정리해야 하는 시대가 오고 있다고 경고한다.

반면 AI를 통해 부진에 빠진 세계 경기의 반전을 기대하는 분위기도 만만치 않다. 수년째 급성장하며 글로벌 경제를 선도해온 미국 IT 대기업들이 지난해 말부터 경기 부진으로 대규모 감원에 나서고 있다. IT 대기업들이 새로운 반전을 모색하는 상황에서 AI 바람이 불고 있다. 어디까지 성장 궤도를 되찾을 수 있을지는 불투명하지만 빅테크들은 일제히 AI 사업에 뛰어든 모습이다. 새로운 성장을 향한 투자 확대가 주목되는 시점이다.

최근 붐을 일으키고 있는 AI의 임팩트가 얼마나 클 것인가도 관심거리다. 과연 MS의 컴퓨터 운영 체제 ‘윈도’와 애플의 ‘아이폰’ 같은 임팩트를 가져올 수 있을 것인가. 지금은 AI를 이들에 버금가는 신산업혁명이라고 평가하는 측과 괄목할 만한 신기술은 아니기 때문에 그 영향은 제한적일 것이라는 측으로 나뉘고 있다.

어쨌든 이런 기대와 논의를 지켜만 봐야 하는 한국의 현실은 안타까울 뿐이다. 한국의 AI 기술 수준이 너무 뒤처져 있기 때문이다. 새로운 기술종속 시대가 오고 있는가.