“알고리즘, 마찰 정책 도입하면 허위정보 확산 줄인다” > 뉴스룸

“AI의 전방위적 위험, 인간의 이익 추구에서 발생”

‘생성형 AI 시대, 알고리즘의 책임성 어떻게 확보할 수 있을까’를 주제로 기조발제 한 마티아스 슈필캄프 ‘알고리즘워치’(독일) 이사는 “인공지능의 위험은 전방위적이고 체계적”이라며, “그 위험이 인공지능 자체에서 비롯된 것이 아니라 인공지능을 이용해 자신의 이익을 극대화하는 조직, 개인에 의해 발생한다”고 말했다.

슈필캄프는 독일의 알고리즘 감시기구 ‘알고리즘워치’를 공동 설립한 뒤 지금까지 책임지고 있다. 2016년 설립된 알고리즘워치는 자동화된 의사결정 시스템과 알고리즘의 사회적 영향, 투명성, 책임성을 감시하고 연구하는 유럽 내 대표적 시민사회 조직으로 주목받고 있다.

슈필캄프는 인공지능을 ‘마법 같은 기술’로 포장해 “기업이 간섭받지 않고 마음껏 일하도록 놔두면 인공지능이 모든 문제를 해결해줄 것”이라고 주장하는 빅테크로 인해 민주주의가 위협받고 있다고 진단했다. 기술은 복잡하지만 우리의 선택에 따라 인간을 위한 기술로 향하도록 통제력을 행사할 수도, 그 반대일 수도 있다는 것이 그의 일관된 생각이다. 인공지능으로 인한 불안정성의 극대화에 맞서 현실적이고 구체적인 접근이 중요하다는 점도 거듭 강조했다.

마티아스 슈필캄프 알고리즘워치 이사. 김영원 기자 forever@hani.co.kr

슈필캄프는 ‘선의를 위한 인공지능’을 내세우는 빅테크의 프로젝트가 지닌 양면성도 짚었다. 예컨대 구글은 신속하고 정확한 홍수 예측, 마이크로소프트는 ‘지구를 위한 인공지능’ 등 환경문제 해결을 내세우고 있지만, 현실에서는 구글의 물 사용으로 인해 우루과이의 식수가 부족 문제, 오픈에이아이(AI)의 케냐 노동자 착취 등 폐해가 심각하다고 말한다. 디지털 성폭력, 편향된 사법 결정 등과 같은 구조적 문제도 곳곳에서 드러나고 있다. 슈필캄프는 이처럼 인간을 넘어서는 범용인공지능(AGI)이 초래할 재앙보다 현재 당면하고 있는 구조적 위험이 훨씬 더 중요하다고 강조했다.

“인공지능이 기계가 인간을 고된 노동에서 해방해줄 것이라고 보는 유토피아, 인간의 일자리를 뺏고 세상을 지배할 것이라는 디스토피아의 양극단적 접근으로는 과거의 인공지능 발전을 제대로 이해하지 못하고, 미래 역시 대처할 수 없다”고 슈필캄프는 강조했다. 그는 “권력구조를 바꾸고 싶다면, 더 많은 아이디어가 필요하다. 빅테크의 힘을 제어하려면 통제하고 압박해야 한다”고 말하며, 자신이 책임자로 있는 독일 시민단체 ‘알고리즘워치’가 수행한 조사와 옹호(로비활동) 활동을 소개했다. 2023~2024년 독일 주의회 선거 당시 마이크로소프트의 인공지능 챗봇에 선거 정보에 대한 질문을 입력해 답변 데이터세트를 구축하고 분석한 결과 약 30%가 부정확한 답변이라는 점을 밝혀냈다. 또한 유럽연합선거위원회를 압박해 플랫폼을 위한 선거 가이드라인에 이 사례를 포함했다.

한귀영 사람과디지털연구소 소장 hgy4215@hani.co.kr