[AI로 사는 세상] AI 스피커, 부르지도 않았는데 “네~”… 음성 보안 위협 취약

인공지능(AI) 스피커가 국내에서 빠르게 확산되고 있는 가운데 사생활 침해와 보안 위협에는 취약할 수 있다는 우려가 나오고 있다. 생체 인증이나 터치 방식이 아닌 음성을 통해서 명령하기 때문에 개개인의 구별이 쉽지 않아 보안사고 발생 가능성이 높기 때문이다.

최근 해외에서는 주인이 모르는 사이 보안 사고가 발생하기도 했다. 아마존의 ‘에코’는 ‘알렉사’를 호출 명령어로 인식하고 작동한다.

해외에서 에코를 사용하던 한 부부가 대화 중 ‘알렉사’와 비슷한 이야기를 하자 에코는 이를 호출로 인식하고 명령을 받을 준비를 했다. 부부의 대화 도중 에코는 “누구에게 메시지를 보낼까요?”라고 물었고, 대화에 언급된 이름으로 메시지를 보냈다. 의도된 전송이 아니라 인공지능 스피커가 대화를 잘못 알아들어 불특정 다수에게 중요한 내용을 전달할 수 있다는 우려가 제기되는 이유다. 호출 명령어를 녹음해 탈취한 뒤 인공지능 스피커로 도청하는 등 ‘음성 하이재킹’에 대한 위험성이 큰 것이다. 아마존 측은 이 사고에 대해 “우연적으로 드물게 일어난 사고”라며 “재발 방지에 최선을 다할 것”이라는 입장을 밝혔다.

그런가 하면 미국의 한 대학에서는 음성을 통해 인공지능 스피커를 해킹하는 실험에 성공하기도 했다. 최근 UC버클리대 연구진은 고주파대 음역을 활용해 해킹에 성공했다. 사람이 들을 수 없는 고주파를 활용해 인공지능 스피커에 명령을 내려 전화를 걸거나 메시지를 보내는 데 성공한 것이다. 이를 활용하면 사용자가 바로 옆에 있더라도 메시지 전송 등 해킹 시도에 속수무책으로 당할 수 있다.

인공지능 스피커는 대부분 작동하지 않는 상태에서도 주변의 소리를 들을 수 있도록 설계돼 있다. 호출 명령어가 스피커를 작동시키는 일종의 ‘스위치’인 셈이다. 또 음성명령 정보는 각 업체에서 정한 일정 기간 저장돼 인공지능 스피커 학습 등에 사용한다. 네이버와 SK텔레콤, KT 등은 24개월간 보관하며 카카오는 회원이 탈퇴할 때까지 보관하는 정책을 유지하고 있다.

또 말하는 사람의 목소리를 분석해 특정 인물에만 반응하는 기술도 개발하고 있다. 카카오는 사용자가 카카오미니에 목소리를 등록해 해당 음성에만 반응하는 ‘보이스프로필’을 올 하반기에 적용할 예정이다. 보이스프로필이 적용되면 인공지능 스피커 주인이 아닌 다른 사람이 서비스를 사용할 수 있던 문제를 해결할 수 있을 것으로 전망된다.

업계 한 관계자는 “국내 기업들도 인공지능 스피커가 보안에 취약하다는 문제점을 인식하고 이를 해결하기 위한 기술 개발에 집중하고 있다”며 “과거 모니터에 달려 있는 카메라 렌즈를 통해 사생활이 유출된 사고도 있었던 만큼 인공지능 스피커 보안과 관련한 기술을 꾸준하게 연구해야 할 것”이라고 말했다.