창의력 위협당하는 시대, 가장 필요한 것도 창의력 > 뉴스룸

인공지능이 인류의 생존까지 위협할 수 있다는 경고음이 잇따라 울리고 있다. 인공지능 연구 및 개발의 최전선에 서 있는 이들이 인공지능 개발 경쟁으로 인류 문명이 무너질 수 있다며 규제의 필요성을 외치고 있다. 제2회 사람과디지털포럼에서 기조연설을 하는 윤송이 엔씨소프트 최고전략책임자(사장)는 ‘인간과 AI의 공존’과 인공지능에 대한 통제를 일찍부터 주장해왔다.

윤 사장은 인공지능에 대한 통제가 필요한 이유로 인공지능은 결코 중립적이지 않고, 편향되어 있기 때문이라고 말한다. “인공지능 열풍을 야기한 챗지피티 응답 역시 본질에서 편향돼 있고 암묵적인 편견으로 가득하다. 이는 인공지능 개발에 사용되는 데이터 세트 자체가 인간의 편견으로 가득 차 있기 때문이다.” 그가 특히 주목하는 것은 데이터에 주류의 위치에 있는 소수 집단의 의견이 집중적으로 반영되어 전체를 대표하고 있다는 점이다. “챗지피티의 데이터는 인류 전체의 지성을 대변한다고 하지만, 사실은 인터넷에 연결되어 활발하게 데이터를 생성하는 소수 계층의 생각만을 대변한다.” 예컨대, 데이터의 수집과 공유가 매우 제한되어 있던 인공지능 기술 개발 초기에, 연구자들이 활용할 수 있는 대용량의 이메일 데이터는 엔론이라는 기업의 임원들이 주고받은 이메일 데이터 세트였다. 긴 재판의 증거로 제출되어 공공 데이터화되었기 때문이다.

또한 인공지능 알고리즘이 제공하는 의견은 ‘하나의 지배적인 렌즈’로 작용하고 있지만 실은 정치적 이슈, 사회 및 기술에 대한 관점 등에서 특정 집단에 의해 선택되고 받아들여진 것에 불과하다. 즉, 서구 주류의 의견이 지배적 관점으로 받아들여지면서, 비서구, 유색인종, 여성 등 비주류의 의견은 배제되고 있다. 윤 사장은 이처럼 인공지능이 특정 문화나 언어에 편향될 경우 결국 ‘문화 식민주의’로 이어져 인류가 문화적 다양성을 잃게 될 수 있다고 우려한다.

윤 사장은 인공지능 기술 개발자들은 자신들이 의도하지 않았더라도 사회에 큰 해를 끼칠 수 있기에 이를 인식하고 기술의 설계부터 모든 과정에 윤리 문제를 고려해야 하며, 이를 위한 교육의 역할을 강조한다. 인공지능 기술은 사회에 미치는 영향이 매우 크지만, 그 누구도 결과를 알 수 없고 가이드라인을 사후적으로 만들어봐야 별 소용이 없기 때문에 개발자는 시작부터 ‘윤리적 책임’을 인지하고 실천해야 한다. 윤 사장은 실리콘밸리의 세계적 석학과 교류하며 인공지능에 대해 논의하고 이 과정을 정리해 펴낸 저서 <가장 인간적인 미래>에서 윤리적 인공지능에 대한 문제의식과 대안을 담았다.

윤 사장은 인공지능과 함께 살아가야 할 미래세대를 위해 교육패러다임의 변화가 절실하다는 점도 짚는다. “인간의 창의력이 위협당하는 시대에 가장 필요한 것 또한 인간의 창의력”이며 “특히 일상적 창의성이 중요하고 이를 위한 관용의 문화가 필요하다”고 강조한다. 아울러 인공지능의 폐해를 규제할 적절한 가이드라인과 사회적 안전망을 위한 정부의 역할과 기업 스스로 책임감 있는 역할도 주문한다.

윤 사장은 한국을 대표하는 인공지능 연구자로 매사추세츠공과대학원(MIT)에서 컴퓨터 신경과학 뇌·인지과학 전공으로 박사학위를 받았고, 현재 엔씨소프트 최고전략책임자이자 사장이다. 미국 스탠포드대 ‘인간중심인공지능연구소(HAI)의 자문위원도 맡고 있다. ‘인간중심인공지능연구소는 사회학과 철학 등 다양한 학문 분야를 융합해 예비 개발자에게 인공지능 윤리 등을 교육하기 위해 설립되었다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr

☞ 약력

- 엔씨소프트 최고전략책임자/사장

- 미국 스탠포드대학 인간중심인공지능연구소(HAI) 자문위원

- 저서 <가장 인간적인 미래>