“고위험 AI 출시, 정부 허가 시스템 도입해야” > 뉴스룸

프랭크 패스콸리는 미국 브루클린대학 로스쿨 교수이자 미국 인공지능 자문위원회 위원으로 이번 포럼에서 우리 삶과 사회를 지배하는 권력자, 알고리즘을 다룬다. 편의성 등 알고리즘이 지닌 잠재적 혜택과 예측하기 어려운 위험의 분출 사이에서 어떻게 균형을 잡아갈 수 있을지 구체적 대안도 모색한다.

패스콸리는 편견과 차별 해소 등 공정성을 명분으로 급격히 확산하고 있는 인공지능 면접에 대해 채용 자동화를 통해 차별을 줄이려는 노력이 오히려 차별을 증가시키는 ‘자동화의 역설’에 직면하고 있는 상황도 짚는다. 자동화된 화상면접은 피면접자의 억양, 감정 표현 방식 등 인간의 본질적 특성과 관계없는 변수를 기준으로 평가하고 판단할 가능성이 크다.

불투명하고 불공정한 알고리즘을 제어하기 위한 방안으로 패스콸리는 사람을 평가하고 등급을 매기도록 설계된 알고리즘의 결과물에 대해 정부 및 민간 감사를 실시하고, 기업이 채용할 경우 일정 비율을 할당해 알고리즘 채용 과정에서 탈락한 사람들이 응시할 수 있도록 기회를 주어야 한다고 제안한다. 특히 사회적 약자를 일정 비율 고용하도록 ‘쿼터’를 두는 방안도 상세히 밝힐 예정이다.

패스콸리는 알고리즘을 더욱 투명하고 이해하기 쉽게 만들 수 있는 사례와 가능성도 발표한다. 한 예로, 캐나다 이민 ‘포인트’ 알고리즘은 캐나다에 이민할 수 있는 가능성을 추정할 수 있도록 투명하게 설계되어 있으며 알고리즘의 공정성에 이의를 제기할 수도 있다. 패스콸리는 인간이 주도하는 인공지능을 위해 새로운 고위험 인공지능 모델을 출시하기 전에 정부 기관의 허가를 받도록 하는 인공지능 허가 시스템 도입에 대해서도 의견을 제시할 예정이다.

한귀영 사람과디지털연구소 연구위원 hgy4215@hani.co.kr