앤트로픽의 이중성 [유레카] > 뉴스룸

앤트로픽의 모델 이름들은 문학적이다. ‘오푸스’는 라틴어로 작품을 뜻하는데, 음악이나 문학에서 완성도 높은 저작을 가리킨다. ‘미토스’는 신화와 서사, 한 사회가 공유하는 심층적 세계관을 뜻한다. ‘페이블’은 우화다. 신화가 거대한 세계관이라면, 우화는 그 힘을 교훈과 규칙이 있는 이야기로 바꾼 형식이다. 이 이름들은 앤트로픽이 에이아이(AI)를 단순한 소프트웨어가 아니라 지식과 판단의 체계로 바라보고 있음을 보여준다.

앤트로픽을 둘러싼 논란이 끊이지 않고 있다. 얼마 전 ‘미토스 5’와 일반에 공개된 안전장치 탑재 버전인 ‘페이블 5’에 대해 미국 정부가 수출통제를 내렸다. 그동안은 반도체나 지피유(GPU) 같은 하드웨어에 집중돼 있었는데, 이번 조치로 에이아이 안전이 국가 안보의 핵심 축이라는 점이 드러났다. 지난 4월에는 이른바 ‘미토스 쇼크’로 논란의 중심에 섰다. 앤트로픽은 ‘미토스 프리뷰’가 소프트웨어 취약점을 찾고 악용 가능성을 분석하는 능력에서 일부 영역에서는 인간 보안전문가를 넘어섰다고 설명하며, 일부 기업과 기관에만 제한적으로 제공했다. 이에 대해 샘 올트먼은 위험을 강조해 자사의 기술력을 부각하는 “공포 기반 마케팅”이라고 비판했다.

이 논란을 관통하는 열쇳말은 안전이다. 앤트로픽이 ‘헌법 에이아이’를 표방한 데서 드러나듯이 안전은 정체성이자 핵심 가치다. 헌법 에이아이는 모델이 자신의 출력을 헌법 원칙에 따라 스스로 비판하고 개정하는 과정을 포함한다. 지난 10일에는 다리오 아모데이 시이오가 “에이아이는 지수적 속도로 발전하는데 정책 결정 과정은 느린 세계에 맞춰 설계돼 있다”며 안전을 위한 정책을 촉구했다.

문제는 앤트로픽이 내세우는 ‘안전의 이중성’이다. 앤트로픽은 에이아이 경쟁의 위험을 경고하면서도, 자신들은 그 경쟁의 최전선에 있어야 한다고 주장한다. 프런티어 에이아이 개발은 멈출 수 없기에, 안전을 가장 중시하는 자신이 주도해야 한다는 논리다. 보통 위험 경고는 속도를 늦추는 근거로 작용하지만, 앤트로픽은 정반대로 활용한다.

이 같은 사고방식은 실리콘밸리의 ‘효과적 이타주의’와 맞닿아 있다. 즉, 이성과 증거를 통해 선을 행하는 방법을 찾되, 현재보다 미래 세대에 미칠 결과를 중시한다. 앤트로픽은 위험한 기술을 피하기보다, 그 기술을 안전하게 개발하는 것이 미래에 더 도움이 된다고 본다는 점에서 이 흐름과 맞닿아 있다. 문제는 누가 그 선을 계산하고, 안전의 기준을 정하느냐에 있지 않을까.

한귀영 사람과디지털연구소장 hgy4215@hani.co.kr