마커스 “AI 문제 신속히 대처해야…풀뿌리 시민 행동 필수적” > 뉴스룸

“인공지능(AI)과 관련해 지금 우리가 내리는 선택은 수십년 또는 수백년 동안 지속적으로 영향을 미칩니다.”

게리 마커스 미국 뉴욕대학교 명예교수는 12일 서울 중구 남대문로 대한상공회의소 국제회의장에서 열린 제3회 한겨레 사람과디지털포럼에서 ‘더 강한 인공지능 넘어, 더 인간다운 인공지능을 위해’ 주제강연을 통해 “인공지능 이슈는 기후변화 문제와 유사해서, 우리에게 주어진 시간이 많지 않아 신속한 행동이 필요하다”며 “정부가 제대로 대처할 것으로 기대하기 힘들기 때문에 풀뿌리 시민의 행동이 필수적”이라고 강조했다. 또 그는 “국가별·글로벌 차원의 인공지능 조직에서 표준을 만들고 공유해야 한다”고 말했다.

마커스는 저명한 인지심리학자로, 거대언어모델(LLM)이 주도하는 인공지능 개발 흐름에 비판적인 목소리를 내왔다. 그가 쓴 ‘2029 기계가 멈추는 날’은 미국 ‘포브스’가 꼽은 ‘인공지능 분야 필독서 7권’의 하나로 꼽혔다.

마커스는 “지금보다 더 나은 인공지능이 가능할 수 있지만, 지금보다 더 잘해야 한다”며 “우리가 원하는 인공지능은 인권과 인간 존엄성에 부합하는 것인데, 현실은 제대로 따라가지 못하고 있다”고 우려했다. 그는 “유네스코가 2021년 인공지능 윤리에 관한 국제 표준을 만들었지만, 지금의 인공지능은 도덕적·기술적으로 부적합한 상태”라며 “생성형 데이터가 더 많이 학습을 하면 거짓정보 문제가 해결될 것이라는 전망은 사실이 아니고, 인공지능은 다양한 정보를 모아서 짜깁기를 할 뿐 사실 여부에는 전혀 관심이 없다”고 지적했다.

마커스는 “생성 인공지능은 편향, 표절, 지식재산 침해, 정보 조작, 허위정보, 명예훼손, 딥페이크, 범죄 가속, 환경 훼손 등 다양한 문제를 야기할 수 있다”며 “인공지능 때문에 인간이 멸종할 가능성은 크지 않다고 생각하지만, 핵전쟁 같은 재앙적 결과를 초래할 가능성은 있다”고 경고했다. 그는 “인간을 위한 인공지능을 위해서는 정책과 정치가 중요하지만, 만병통치약은 없다”며 “변화에 대한 기민한 대응이 중요한데, 관련 법을 제정하는 너무 오랜 시간이 걸린다”고 말했다.

마커스는 인공지능 투명성 확보와 관련해 “인공지능 모델 훈련에 사용된 데이터와 사이버범죄, 선거 개입 등에 대한 충실한 설명이 필요하다”며 “미국 식품의약국(FDA)처럼 엄격한 승인 절차를 적용해야 하고, 인공지능이 어떻게 사용되는지에 대한 독립적 제3자의 사후적 감사도 필요하다”고 말했다. 그는 인공지능 책임성과 관련해서도 “인공지능 기업에 지나치게 넓은 면책성을 부여해서는 안 되고, 빅테크가 모든 것을 결정하도록 해서는 안 된다”며 “항공업계처럼 중층적인 관리감독과 외부 과학자들이 참여하는 독립적 감독이 이뤄져야 한다”고 말했다.

곽정수 한겨레경제사회연구원 선임기자 jskwak@hani.co.kr