편리해질수록 위험해지는 AI의 역설 > 뉴스룸

누구나 매일같이 사용하지만, 많은 사람이 ‘사용 중’이라는 사실을 모르는 기술이 있다. 인공지능(AI) 서비스다.

입만 열면 인공지능을 이야기하는 시대가 되었지만, 정작 많은 사용자들은 자신이 인공지능을 쓰고 있다는 걸 인식하지 못하고 있다. 왜 이런 일이 생길까? 인공지능이 ‘보이지 않는 기술’이 되어 이미 일상에 자연스럽게 스며들어 있기 때문이다.

삼성전자가 지난달 12일 공개한 보도자료는 이를 잘 보여준다. 삼성은 자사 모바일 기기를 통해 제공되는 ‘갤럭시AI’가 전 세계 4억대 넘는 기기에서 사용 중이라고 밝혔다. 사용자 중 약 80%는 이미 인공지능 기능을 이용해 본 경험이 있고, 3분의 2 이상은 정기적으로 사용한다고 한다. 특히 미국에서는 90%의 이용자가 갤럭시 기기의 인공지능 기능을 활용하고 있었다.

삼성이 의뢰한 미국 성인 2000명 대상의 설문조사에서 “인공지능을 실제로 사용하고 있다”고 응답한 사람은 38%였다. 51%는 “휴대전화에서 인공지능을 사용하지 않는다”고 답했다. 사용자 상당수가 자신도 모르는 새 인공지능을 쓰고 있는 상황이다.

이런 인식의 간극은 왜 생길까? 스마트폰의 일상적 기능 속에 이미 많은 인공지능 기술이 깊숙이 스며들어 있기 때문이다. 삼성에 따르면, 스마트폰의 날씨 알림(42%), 통화 선별(35%), 자동교정(34%), 음성 비서(26%), 자동 밝기 조절(25%) 등의 기능은 모두 인공지능 기반으로 작동한다.

과학소설 작가 아서 클라크는 “충분히 발달한 과학기술은 마법과 구별할 수 없다”고 말했다. 유비쿼터스 컴퓨팅의 선구자 마크 와이저 박사도 “심오한 기술은 일상 속에 자연스럽게 녹아들어 사용자가 존재를 의식하지 못하는 보이지 않는 기술이 된다”고 기술의 이정표를 제시했다. 보이지 않지만 매끈하게 작동하는 기술은 ‘마법’처럼 여겨진다. 오늘날 우리가 인공지능을 매일 사용하면서도 그 사실을 자각하지 못하게 된 현실은, 이런 ‘마법 같은 기술’의 시대가 도래했음을 보여준다.

이러한 현상에는 두 가지 배경이 있다. 첫째, 인공지능 사용이 너무 자동화되고 편리해졌기 때문이다. 예를 들어, 제미나이, 시리, 챗지피티(GPT), 미드저니처럼 사용자가 직접 명령을 내리는 서비스는 “인공지능을 사용한다”는 사실을 분명히 인식시킨다. 하지만 사진 자동보정, 이메일 스팸 분류, 콘텐츠 추천처럼 사용자의 명시적 지시 없이도 인공지능이 개입해 처리하는 기능은 사용자가 기술의 존재를 의식하기 어렵다.

둘째, 인공지능의 작동 속도가 인간의 인지 속도를 초월할 만큼 빨라졌기 때문이다. 최근 음성 기반 인공지능은 사람보다 빠르게 반응한다. 예컨대 지피티포오(GPT-4o)의 음성 응답속도는 0.2~0.3초인데, 이는 사람이 대화할 때 반응하는 속도와 거의 같다. 이처럼 사람이 질문하자마자 거의 동시에 답이 돌아오면, 우리는 기술의 개입 여부를 생각해볼 찰나의 여유조차 갖지 못한다.

조작법을 배우지 않아도 말하거나 터치하면 사용자의 의도와 취향에 맞는 결과를 즉시 제공하는 인공지능 서비스는 놀랍도록 편리하다. 그러나 삼성의 자료가 알려주듯, 편리함이 커지고 기술의 개입이 자연스러워질수록 사용자는 기술의 존재를 더 의식하지 못하게 된다.

바로 여기에서 문제가 발생한다. 사용자가 인공지능의 존재와 개입을 인식하지 못하면, 그 편리함은 위험으로 바뀔 수 있다. 인공지능을 악용한 딥페이크, 보이스피싱, 허위정보 유포, 로맨스 스캠(연애사기) 등으로 인한 피해는 모두 사용자가 인공지능의 존재를 눈치채지 못한 결과다. 피해자 대부분은 자신이 본 영상이나 음성이 인공지능이 조작했을 가능성을 의심하지 못한 채 반응했다는 공통점을 지닌다.

인공지능 기술의 방향은 이미 정해져 있다. 인공지능은 점점 더 다양한 영역과 용도로 확산될 전망이지만, 그 작동을 위해 사용자가 배워야 할 조작법이나 전문적 지식은 거의 사라질 것이다. 우리는 이전보다 훨씬 더 많은 인공지능 서비스를 이용하고 필수적으로 의존하게 되겠지만, 그 존재를 점점 더 의식하지 못하는 사용자가 될 것이다. 인공지능 시대는 ‘보이지 않는, 마법 같은 기술’의 시대다. 그래서 앞으로 중요한 것은 강력한 인공지능을 남보다 더 빨리, 더 많이 쓰는 것이 아니다. 자신이 어떠한 인공지능 서비스를 사용하고 있는지, 얼마나 그에 의존하고 있는지 자각하는 게 우선이다. 개인적 차원과 사회적 차원에서 각각 사용하는 인공지능 기술을 식별하고 목록으로 만들어 그 영향을 알아채는 노력이 필요하다. 자신이 무엇에 의존하고 있는지를 알지 못하면, 우리는 곧바로 사기·조작·편향의 위험에 노출되기 때문이다.

인공지능 기술의 영향이 커지고 이용자들이 무의식적으로 사용하면서 의존도가 높아질수록, 모두를 위해 안전한 사용법이 마련되어야 한다. 인공지능을 사용하고 있다는 걸 인식할 때 기술의 피해자가 아니라 현명한 사용자가 될 수 있기 때문이다.

구본권 사람과디지털연구소 객원연구위원 starry9@hani.co.kr