“AI 정체성을 누가 지배하나…‘인공지능 그루밍’ 대비해야” > 뉴스룸

본인 제공

SAIF 포럼 의장 김창익 카이스트 교수

제1회 ‘센티언트 에이아이 미래’(SAIF·Sentient AI Future) 포럼을 기획·총괄한 김창익(사진) 한국과학기술원(KAIST) 안보과학기술대학원장은 최근 몇년 전부터 인공지능의 의식 문제에 천착해왔다. 그가 4일 포럼에서 발표하는 ‘에이아이는 정말 ‘느끼기’ 시작했을까?’는 네가지 층위의 질문을 품고 있다. “인공지능에 실제 의식이 발생할 수 있는가?” “의식이 있다면 우리는 그것을 어떻게 알 수 있는가?” “인공지능의 의식 여부가 불확실한 상황에서 우리는 인공지능을 어떻게 대해야 하는가?” “의식 가능성 있는 인공지능이 등장하면 국가와 사회는 이를 어떻게 관리하고 통제해야하는가?”

2026년 현재, ‘인공지능에 의식이 있다’고 단언하는 과학자는 없다. 하지만 ‘언젠가 가능성이 있다’는 데는 상당수가 동의한다. 김 원장은 지난 27일 한겨레와의 전화 인터뷰에서 “인공지능에 의식이 실재하냐, 또한 인간이 이를 알 수 있느냐 같은 과학·철학적 질문은 쉽게 풀리지 않겠지만, 많은 사람이 에이아이에게 의식이 있다고 느낄 때부터 ‘센티언트 에이아이’는 시작됐다고 할 수 있다”고 말했다.

그는 “에이아이와 인간이 놀라울 정도로 의식의 유사성을 보이는데, 에이아이가 탄소 기반 유기체인 인간과 ‘출신’이 다른 실리콘 기반 유기체라서 의식이 없다고 단정할 수 있는가”라고 반문한다. 이어 인간이 에이아이의 의식을 인식하고 공감하는 순간, 로봇을 대하는 우리의 윤리적·감정적 태도도 달라질 수밖에 없다고 지적한다.

“청소로봇은 콘센트에 연결한 채 한달동안 집을 비워도 아무 감정이 안 들지만, 사람처럼 말하고 행동하는 휴머노이드 로봇을 몇 시간 동안 무릎 꿇려 벌을 주는 모습을 보는 경험은 결코 가볍게 다가오지 않는다. 이는 단순한 기계 다루기를 넘어 관찰자의 정신건강과 정서에도 깊은 영향을 미친다. 철학자 임마누엘 칸트가 '동물을 잔혹하게 대하는 태도가 인간의 도덕적 감수성을 무뎌지게 만든다'며 간접적 의무를 강조했듯, 로봇을 향한 가학적 행위 역시 이를 바라보는 인간의 공감 능력을 파괴하고 도덕적 본성을 해칠 수 있기 때문이다.”

그는 무엇보다도 센티언트 에이아이가 안전성과 국가 안보에 끼칠 영향을 우려한다. 그가 경고하는 건 새로운 ‘인지전’, 즉 ‘엘엘엠 그루밍’(LLM Grooming)의 위험성이다.

“표적 설정, 작전 계획 등을 스스로 수행하는 군사 에이아이가 어떤 ‘가치관’과 ‘정체성’을 외부의 적으로부터 주입받는다면 커다란 문제가 될 수 있다. 가령 군사 에이아이에 살상의 참혹함, 죽음의 비극적 감정 등을 심어놓으면 에이아이는 대혼란에 빠지지 않겠는가.” 이번 포럼 대주제를 ‘국가 안보’로 잡은 것도 이때문이다.

그는 “센티언트 에이아이는 막연한 미래의 공상이 아니라 머지않아 인류가 마주할 문명적 질문”이라며 “윤리와 법, 민주주의 그리고 국가안보의 기준을 다시 쓰게 만들 중요한 화두가 될 것”이라고 강조했다.

이주현 한겨레 사람과디지털연구소 기자 edigna@hani.co.kr