스피커스 #57 AI가 말하지 않는 것들 > 자료

요즘 인공지능(AI) 이야기가 빠지는 곳이 없습니다. 글을 쓰고 그림을 그리는 것은 물론, 채용과 의료, 공장 자동화까지. AI가 우리의 일과 삶을 바꿀 거라는 전망이 쏟아집니다. 정부나 기업에서는 ‘불가피한 흐름이니 기술에 빨리 적응해야 한다’고 말합니다. AI를 사용하지 못하면 경쟁에서 뒤처질 수 있다고 인식하는 분위기도 있죠.

그런 분위기 속에서 자연스럽게 AI를 쓰게 됐는데, 쓸수록 밀당하는 기분입니다. 자료를 검색하거나 글을 퇴고할 때는 이렇게 든든한 동반자가 있나 싶다가도, 문득 이 기술이 나를 대체할지도 모른다는 생각에 밀어내고 싶어지거든요. 좋아하면서도 경계하게 되는, 이 묘한 감정. 여러분도 비슷하지 않나요?

얼마 전 비슷한 고민을 하는 시민 200여명이 모인 자리에 다녀왔습니다. 현장에서 시민들은 어떤 이야기를 나누었을까요?

지난 5일, 서울 동작구 서울가족플라자 다목적홀에서 열린 ‘2026 체제전환운동 포럼’의 ‘인공지능에 맞서 저항을 연결하는 디지털정의운동’ 세션 현장. 체제전환운동포럼 조직위원회.

스피커스는 지난 5일 서울 동작구 서울가족플라자에서 열린 ‘2026 체제전환운동포럼’의 <인공지능에 맞서 저항을 연결하는 디지털정의운동> 세션에서 나온 이야기를 전하려고 해요. 인공지능 기술의 편리함 뒤에 감춰진 빅테크 자본의 구조를 짚고, 시민이 기술의 방향을 어떻게 함께 정할 수 있을지 논의하는 자리였습니다.

참석자들은 ‘인공지능은 피할 수 없는 미래’라고 보는 시각 자체가 ‘자본이 만들어낸 서사’라고 지적했습니다. 빅테크가 어떻게 국가와 결합하여 수익 구조를 보장받는지 설명했죠. 그리고 단순히 기술을 수동적으로 받아들이는 데 그치지 않고, 주체적인 시민으로서 AI를 어떻게 통제하고 민주적으로 사용할지 함께 논의하자고 제안했어요. 이번 스피커스는 그 이야기를 자세히 풀어보려고 합니다.

① ‘기술 발전은 불가피하다’는 서사

오픈에이아이 최고경영자 샘 올트먼(왼쪽)과 마이크로소프트 최고경영자 사이타 나델라(오른쪽). 게티이미지.

“AI 기술은 개발할수록 생산성을 높이고 경제성장을 부를 것이며 우리 모두의 이익이라고 하는 일방향적인 서사가 있습니다. 그런데 정말 AI가 생산성을 높이는 건지, 아니면 보이지 않는 노동 위에서 기업의 수익만 키우는 건지 뜯어봐야 합니다.”

고아침 ‘AI윤리레터’ 운영자는 인공지능을 ‘기술이 아닌 일종의 마케팅 서사’라고 규정했습니다. AI 대세론이 시민이 기술에 개입할 여지를 차단한다는 것이죠. ‘인공지능 기술은 계속 개발되고 있으며 우리는 받아들일 수밖에 없다’는 불가피성 앞에서 기술을 어떤 조건으로 활용할지 논의할 기회가 사라진다는 겁니다. 특히 국가 경쟁력과 안보를 AI 기술에 연결하면서, 기업의 이익이 곧 국익이라는 논리가 만들어집니다. 고아침씨는 마땅히 있어야 할 규제마저 발목 잡기로 치부된다고 꼬집었습니다.

문제는 이 ‘불가피성의 신화’가 기술의 완성도마저 자본의 논리로 정의하게 한다는 점입니다. 실제로 오픈AI 와 마이크로소프트가 맺은 계약을 보면, 범용인공지능(AGI)을 “수익 1천억 달러를 내는 인공지능 시스템”이라고 명시했습니다. 기술의 도달점이 인류의 진보가 아니라 수익 규모로 규정되는 셈이죠. 참석자들은 이러한 관점이 AI 기술을 적용하는 사회의 주체성을 배제한다고 말합니다. 핵심 문제의식은 분명합니다. AI 대세론이 만드는 불가피성의 신화를 깨고, 이 기술의 사회적 도입으로 누가 이득을 보고 있는지 살펴보자는 것이죠!

② AI가 말하지 않는 3가지: 디지털 지대, 자원, 노동

2024년 6월 8일 토요일, 인도네시아 북말루쿠주 중앙 할마헤라에 위치한 인도네시아 웨다베이 산업단지 앞을 한 배가 지나가고 있다. 인도네시아는 대규모 니켈 산업을 구축해 왔다. AP.

빅테크의 막대한 수익은 기술 혁신만으로 설명되지 않습니다. 오병일 디지털정의네트워크 대표는 ‘디지털 지대’라는 개념을 빌려, 시장을 선점한 소수 빅테크 기업이 혜택을 독점하는 구조를 짚었습니다. 애플과 구글은 앱스토어 수수료로 매출의 30%를 떼어가고, 구글과 메타는 전 세계 디지털 광고 시장의 50% 이상을 차지합니다. 기술 혁신보다는 인수합병으로 확보한 플랫폼으로 수익을 올리는 구조이고, 플랫폼 이용자의 데이터는 다시 AI 학습 재료가 되어 진입장벽을 더욱 높입니다.



빅테크의 수익 구조는 디지털 공간에만 머물지 않습니다. AI 연산에는 막대한 물리적 자원이 필요하고, 이를 확보하려면 국가의 뒷받침이 따릅니다. 빅테크가 2020~2024년 미국 연방 로비에 쓴 자금은 3700억원에 달합니다. 국내도 다르지 않습니다. 용인 반도체 클러스터를 위해 강원도 화천댐의 물까지 끌어오기로 한 것이 대표적입니다.

이현담 디지털정의네트워크 활동가는 광물 채굴에 콩고에서 7살 미만 아동까지 동원되는 현실과 니켈 가공으로 폐허가 된 인도네시아 해양 생태계를 고발했습니다. 전 세계 데이터센터의 전력 소비량은 원전 15기에 해당하고, 고성능 칩의 열을 식히려면 수만 톤의 물이 필요합니다.

노동 현장도 마찬가지입니다. 장여경 정보인권연구소 상임이사는 “인공지능이 내놓는 유창한 결과물은 결국 우리가 올린 데이터와 보이지 않는 곳에서 모델을 훈련한 노동자들의 산물”이라고 짚었습니다. 콜센터 상담사의 말투를 학습한 AI가 인력 감축의 명분이 되고, 현장 노동자의 노하우가 데이터로 흡수되어 그 노동자를 대체하는 도구로 돌아옵니다. 

③ 중요한 건 기술의 ‘속도’보다 ‘방향’

장여경 정보인권연구소 상임이사는 빅테크 기업을 대상으로 한 옵트아웃 권리가 법으로 보장될 필요가 있다고 말한다. 게티 이미지.

이날 토론은 비관으로 끝나지 않았습니다. 참석한 패널들은 AI 개발 속도를 앞당기자거나 늦추자는 접근보다, 기술을 적용하는 방향에 주목해야 한다는 데 뜻을 모았습니다.

김하늬 디지털정의네트워크 운영위원은 ‘기술 결정론’을 정면으로 반박했습니다. 19세기 아동 노동을 금지한 공장법이 기계의 구조 자체를 바꿨듯, 기술의 방향은 늘 사회적 투쟁의 산물이었다는 것이죠. 김 운영위원은 최근 현대차의 휴머노이드 로봇 도입 사례를 들어 기획과 개발 단계부터 노사가 머리를 맞대야 한다고 주장했습니다.

장여경 상임이사는 정보인권의 관점에서 구체적인 대안을 제시합니다. AI를 개발하는 기업에 알고리즘 학습에 쓰인 데이터를 공개하라고 요구하거나, 내 데이터가 학습에 쓰이는 것을 거부할 수 있는 ‘옵트아웃(Opt-out)’ 권리를 법으로 보장하자는 것입니다. 거대 자본이 독점하는 대형 모델에만 의존하지 않고, 오픈소스를 바탕으로 개방적인 기술 생태계를 만들어야 한다는 제언도 나왔습니다. 영향을 받는 시민이 단순한 서비스 이용가 아니라 기술의 방향을 함께 정하는 권리 주체로 서야 한다는 것이 핵심입니다.

장 상임이사는 “이름도, 얼굴도 드러나지 않는 수많은 사람이 새 질서를 만들고 비로서 ‘내가 결정하겠다’고 말는 것, 그것이 인공지능 시대에 우리가 쟁취해야 할 민주주의”라고 말했습니다.

<인공지능에 맞서 저항을 연결하는 디지털정의운동> 세션 현장. 체제전환운동포럼 조직위원회.

이번에 다녀온 ‘체제전환운동포럼’이 벌써 3회째라고 합니다. 스피커스는 2024년 첫 번째 포럼 현장에도 다녀왔었는데요. 그동안 인공지능을 주제로 세션을 기획한 적은 없었고, 올해가 처음이라고 합니다. 그것도 여러 세션 중 첫 번째 순서로 다뤘다니 인상 깊었어요. 그만큼 AI에 대한 사람들의 관심이 뜨거운 거겠죠?

AI는 앞으로 더 많은 영역에 도입될 것으로 보입니다. 피지컬 AI의 등장 이후로 어쩌면 제 옆에 로봇이 타자를 치거나 말하는 모습이 금방 올지도 모르겠습니다. 하지만 사람은 생각하는 동물이라 미래에도 여전히 글을 쓰고 말을 하는 작업을 하고 있을 것 같습니다. 로봇 도움은 조금 받겠지만요. 다만 이날 토론을 듣고 나니, 어떤 기술이 등장하느냐보다 그 기술을 누가, 어떤 조건으로 사용하는지가 더 중요한 질문이란 생각이 듭니다.

전문은 여기에서 보실 수 있습니다!