“각자 버블 속에 갇혀 산다”…AI·알고리즘, 민주주의 위협하다 > 뉴스룸

야엘 아이젠스타트 ‘민주주의를 위한 사이버보안’ 이사(화면 왼쪽)와 오드리 탕 대만 사이버 대사 겸 제1대 디지털 장관(화면 가운데) 등 패널들이 25일 제4회 사람과디지털포럼이 열린 서울 중구 대한상공회의소 국제회의장에서 ‘민주주의와 알고리즘의 동행을 위해: 정부, 기업, 시민사회의 역할은’을 주제로 토론하고 있다. 왼쪽부터 박원호 서울대 교수(정치외교학), 이해민 조국혁신당 의원, 야엘 아이젠스타트 이사, 마티아스 슈필캄프 알고리즘워치 이사. 신소영 기자 viator@hani.co.kr

“사람들은 자신이 듣고 싶고 믿고 싶은 것만 소비하며, 각자 ‘버블’ 속에 갇혀 살고 있다.”

로런스 레시그 하버드대 교수는 25일 서울 중구 대한상공회의소에서 한겨레신문사가 ‘인공지능(AI) 알고리즘은 민주주의를 어떻게 해킹하는가’를 주제로 개최한, 제4회 사람과디지털포럼에서 알고리즘이 맞춤형 정보만을 제공해 사회적 합의와 신뢰가 무너지고 있다고 경고했다. 특별강연자로 나선 그는 “에이아이와 알고리즘은 사용자의 주의력과 선호를 조작해 더 많은 클릭과 참여를 유도하며, 그 과정에서 혐오·극단적 콘텐츠가 더 많이 퍼지고, 사회적 양극화가 심화된다”며 “참여 기반 비즈니스 모델은 기업에는 이익이지만, 사회적으로는 민주주의를 파괴하는 구조”라고 지적했다.

기조 발제자로 나선 야엘 아이젠스타트 ‘민주주의를 위한 사이버보안’(뉴욕대학교 탠던공과대학 산하) 이사도 페이스북 내부를 연구한 사람의 발언을 인용해 “독일 극단주의 단체 가입자의 64%가 플랫폼의 추천 알고리즘을 통해 유입됐다”고 밝혔다. 실제로 플랫폼에서는 진실보다 허위 정보, 진보보다 보수 게시물이 알고리즘을 통해 더 많이 퍼진다는 점이 여러 연구 결과에서도 드러났다.

마티아스 슈필캄프 ‘알고리즘워치’(독일) 이사는 “기술은 절대적으로 중립적이지 않다”며, 인공지능을 ‘마법 같은 기술’로 포장해 “기업이 간섭받지 않고 마음껏 일하도록 놔두면 인공지능이 모든 문제를 해결해줄 것”이라고 주장하는 빅테크로 인해 민주주의가 위협받고 있다고 진단했다. 그는 “인공지능의 위험은 그 자체에 있는 것이 아니라, 이를 이용해 이익을 극대화하려는 기업과 조직, 개인의 행위에서 비롯된다”며, 기술의 통제권을 누가 쥐느냐가 민주주의의 미래를 좌우한다고 강조했다.

민주주의를 복원하는 방안으로 오드리 탕 대만 사이버 대사는 시민참여와 숙의민주주의를 제시했다. 그는 “디지털 기술을 활용한 투명성 확보가 참여 민주주의의 초석”이라며 대만 사례를 소개했다. 2015년 실시간 토론 플랫폼 ‘폴리스’(Polis)에서 우버 규제(승차 공유 서비스인 우버엑스의 운영 금지) 논쟁을 공론화해 사회적 합의를 이뤘고, 최근에는 딥페이크 등 인공지능 기반 허위 정보 대응에도 디지털 숙의 방식을 적용해 관련 법을 제정했다.

이날 최우성 한겨레신문사 대표이사는 개회사에서 “디지털 기술에 대한 단순한 비판에 그치지 않고 민주주의의 미래를 밝힐 수 있을지에 대한 심도 깊은 성찰과 지혜를 모으는 자리”라고 밝혔다.

정은주 한겨레경제사회연구원 기자, 서혜미 기자 ejung@hani.co.kr