“AI 알고리즘, 민주주의 해악 막으려면 정부 규범과 기업 실천 필요” > 뉴스룸

25일 오전 서울 중구 대한상공회의소 국제회의장에서 열린 제4회 한겨레 사람과디지털 포럼에서 ‘민주주의와 알고리즘의 동행을 위해: 정부, 기업, 시민사회의 역할은’을 주제로 원탁 토론하고 있다. 왼쪽부터 박원호 서울대 정치외교학부 교수, 이해민 조국혁신당 의원, 야엘 아이젠스타트 민주주의를 위한 사이버보안 이사, 마티아스 슈필캄프 알고리즘워치 이사, 오드리 탕 대만 사이버 대사. 신소영 기자 viator@hani.co.kr

한겨레신문사가 25일 주최한 제4회 사람과디지털포럼의 오전 원탁 토론에서 전문가한겨레신문사가 25일 주최한 제4회 사람과디지털포럼의 오전 원탁 토론에서 전문가들은 사회관계망서비스(SNS)를 지배하는 인공지능(AI) 알고리즘이 민주주의에 끼치는 해악을 막기 위해선 정부가 통일된 규범을 제정하고, 기업이 이를 적극적으로 실천함으로써 사용자 신뢰를 확보해야 한다고 입을 모았다.

구글 본사 제품 책임자 출신인 이해민 조국혁신당 의원은 ‘민주주의와 알고리즘의 동행을 위해: 정부, 기업, 시민사회의 역할은’ 세션에서 “기술이 잘 쓰면 득이고, 못 쓰면 독이다”라며, 자신의 경험 사례를 통해 정보기술(IT) 기업들의 책임을 강조했다. 이 의원은 “구글에서 일하며 내가 만드는 제품의 사회적 영향에 대해 아주 깊게 생각하진 못했던 것 같다”며 “제품을 만들기 시작할 때부터 사회적 영향을 되돌아봤다면 세상이 어떻게 변했겠느냐는 질문을 스스로 한다”고 말했다.

이 의원은 전 지구적으로 유사한 규범인 신호등 체계가 자동차 산업에 기여한 사례를 들어 “국경이 존재하지 않는 디지털 서비스의 실질적인 효과를 위해선 국제적으로 통용되는 규제 영역이 필요하다. 이를 기반으로 각 나라의 특별한 상황을 반영해 실질적인 규제 효과를 낼 수 있는 신호등 같은 법안을 만들고자 한다”고 설명했다. 최근 발생한 에스케이텔레콤(SKT) 해킹 사건을 꼽으며, 그는 “보안 관련 규제는 기업에는 부담이지만 결국 안전한 서비스를 만들어냄으로써 더 높은 가치를 만들고 고객의 신뢰를 얻고 더 지속 가능한 기업으로 갈 수 있다”고 덧붙였다.

마티아스 슈필캄프 독일 알고리즘워치 이사는 인공지능 기업의 사회적 책임을 묻는 박원호 서울대 정치외교학부 교수(좌장)의 질문에 “플랫폼을 감독하고 민주주의에 끼치는 위험요소를 살피는 한편 이를 완화할 수 있는 내용을 담은 유럽연합(EU)의 디지털서비스법 같은 법이 필요하다”고 답했다. 특히 “기술은 자신만의 목적이 있기에 사회에서 기술을 어떻게 적용하는지, 사회와 기술 간의 양방향적인 관계를 봐야 한다”며 “시스템이 민주주의와 함께 갈 수 있도록 기업에 압박을 가해야 한다”고 덧붙였다.

사회적 규제와 감시 없이 기업이 스스로 민주주의에 어긋나는 방향으로 알고리즘을 설정하는 일이 쉽다는 지적도 나왔다. 야엘 아이젠스타트 민주주의를 위한 사이버보안 이사는 “틱톡이나 유튜브, 메타 같은 거대 소셜미디어 플랫폼의 전체적인 알고리즘 설계를 보면, 시민과의 교류나 의견을 적극적으로 경청하는 방식으로 변화하거나 개선되고 있지 않다”고 지적했다. 그는 “한 기업의 한 최고경영자(CEO)가 정부에 대한 엄청난 권력을 가지게 된다면, 이는 어떤 사회든 큰 문제가 될 것”이라고 경고했다. 또 “소셜미디어 기업의 수익 모델을 바꾸는 동시에, 허위 정보가 급속도로 퍼지지 않도록 알고리즘에 마찰 장치를 도입하지 않는 기업은 어떤 식으로든 사회적 대가를 치르게 해야 한다”고 제안했다.

오드리 탕 대만 사이버 대사는 인공지능 알고리즘이 민주주의를 훼손하지 않기 위해 기업에 대한 규제 못지않게 정보의 신속한 제공이 필요하다고 밝혔다. 탕 대사는 “대만에는 35살 미만 젊은 층이 내각 관료의 멘토가 돼 의견을 내고 의사결정 과정에 참여하는 멘토십 제도가 있다”며 “매주 투표를 하고 결과를 빠르게 공유함으로써 젊은 세대가 소외되지 않는 느낌을 받고 실제로 사회를 움직이고 있다”고 했다. 이를 통해 정보가 조작되는 걸 막을 수 있단 얘기다.

원탁 토론을 마치며 박원호 교수는 “한국은 산업 발전의 이면에 민주주의에 대한 위협과 부의 양극화라는 부작용을 안고 있다”며 “디지털 전환 시대에는 신뢰와 안전을 바탕으로 한 입법과 정책이 필요하다”고 강조했다.

전종휘 기자 symbio@hani.co.kr