인스타·페북·왓츠앱, 인공지능 제작 콘텐츠에 ‘AI 라벨’ 붙인다 > 뉴스룸

인공지능으로 만든 콘텐츠에 ‘AI로 제작됨’ 라벨을 붙이면, 생성 인공지능이 만들어내는 조작 콘텐츠의 위험성이 해결될 수 있을까?

페이스북·인스타그램·왓츠앱 등을 운영하는 소셜미디어 플랫폼 기업 메타는 지난 5일 블로그에 글을 올려, 오는 5월부터 페이스북·인스타그램 등에 올라오는 인공지능 생성 콘텐츠에 “인공지능으로 제작(Made with AI)” 라벨을 붙인다고 밝혔다. 라벨이 붙는 인공지능이 만든 콘텐츠에는 동영상·이미지·오디오 모두 포함된다. 콘텐츠에 업계 표준의 인공지능 표시(워터마크)를 삽입했거나, 사용자가 직접 인공지능으로 생성한 콘텐츠라고 공개할 경우 “인공지능으로 제작” 라벨이 붙는 방식이다.

메타의 콘텐츠 정책담당 부사장인 모니카 비커트는 이 글에서 “투명성과 (인공지능으로 만든 콘텐츠라는) 추가적 맥락을 제공하는 것이 조작된 미디어에 대응하고 언론 자유 제한 위험을 피할 수 있는 방법이라는 감독위원회 권고에 동의한다”고 도입 배경을 밝혔다.

학자·연구원 등 외부 인사들로 구성된 메타 감독위원회는 지난 2월 페이스북에 지난해 11월 게시된 바이든 대통령 동영상 게재를 놓고 불거진 콘텐츠 규제 정책이 일관되지 않았다고 지적한 바 있다. 이 영상은 바이든 대통령이 손녀에게 부적절하게 행동하는 것처럼 보이도록 영상을 편집해 조작한 콘텐츠였는데, 규정 위반 신고가 접수되자 메타는 규정에 따라 “문제 없다”고 판단했다.

메타의 기존 ‘조작된 미디어’ 정책은 인공지능에 의해 제작되었거나 사람들이 실제로 발언한 적 없는 말을 하는 것처럼 보이게 하는 경우에만 오해 소지의 조작된 동영상을 금지하기 때문에 해당 영상은 계속 게재가 허용됐다.

감독위원회는 “관련 콘텐츠를 무조건 삭제하는 것은 표현 자유를 침해할 여지가 있다”며 “투명성 및 추가 맥락 제공에 초점을 맞춰 인공지능이 제작한 콘텐츠에 더 많은 라벨을 붙일 것”을 권장했다. 감독위원회는 “이 정책이 인공지능이 생성한 콘텐츠만이 아니라 인공지능을 사용하지 않았어도 오해 가능성이 있는 콘텐츠·오디오·동영상에도 적용되어야 한다”고 말했다.

대표적 소셜미디어에서 콘텐츠에 ‘인공지능으로 제작’ 라벨을 붙이겠다는 방침은 생성 인공지능이 현실 속으로 깊숙이 침투했다는 선언이다. 메타가 도입하는 AI 라벨은 인공지능 콘텐츠로 인한 부작용에 대한 효과적인 대책이 될 수 있을까?

무엇보다 이는 소셜미디어 기업이 사회적 압력에 진지하게 반응하고 있다는 걸 보여주는 신호다. 딥페이크로 인한 여론 왜곡 위험이 커지는 상황에서 AI 라벨은 유용한 식별 지침으로 작동할 수 있다. 또한 여러 업체들과 AI 워터마크 등 기술 표준을 공동개발하고 있는 메타가 AI 라벨을 도입하면 향후 여러 업체들로 확산될 수 있다. 무조건적 삭제보다 투명성과 콘텐츠의 제작 맥락을 제공함으로써, 이용자가 판단할 수 있도록 한다는 점에서 이용자 주권 차원에서도 긍정적이다.

하지만 한계도 뚜렷하다. 인공지능 라벨은 자발적으로 작동하는 ‘신사협정’일 따름이다. 모든 이용자와 모든 소셜미디어 플랫폼, 검색엔진이 의무적으로 따라야 하는 지침이 아니다. 메타를 넘어 업계 공통 표준으로 확립되고 법률로 의무화한다고 해도, 문제가 사라지지 않는다.

AI 라벨은 사람 눈에 보이지 않는 워터마크 형태의 메타정보를 통해 작동하는 방식이다. 하지만 디지털 카메라로 촬영한 사진도 필름정보(film info)라는 메타정보를 생성하지만, 필름정보 없이 유통되는 디지털 사진을 차단할 수 없다. 페이스북과 엑스(X) 등 소셜미디어는 실명 이용과 공식계정 확인 정책을 운영하고 있지만, 이를 무력화시키는 사례가 빈발하고 있다. ‘AI 라벨’도 유사한 문제를 피할 수 없는 기술적 접근이다.

인공지능으로 콘텐츠를 만들 때 자동으로 ‘AI로 제작’ 라벨이 부착되도록 하는 시도이지만, 무력화하는 기술도 있다. 예를 들어, 챗지피티같은 대화형 인공지능에 AI 라벨을 지운 채 콘텐츠를 생성하라고 주문할 경우 얼마든지 사람이 제작한 것처럼 꾸밀 수 있다. 당국이 규제해도 오픈소스 인공지능을 통해 해당 기술이 얼마든지 제공될 수 있다.

생성 인공지능이 만든 문장을 부분적으로 가져와 사용하거나, 그 문장을 사람이 입력한다면 이를 적발하기도 어렵다. AI 라벨이 갖는 가장 큰 한계는 기술적 해결책의 등장으로 인해 이용자들이 기술에 과의존하는 태도를 갖게 될 수 있다는 점이다. 페이스북과 인스타그램, 유튜브, 틱톡 등 대중적인 소셜미디어들에 공통적으로 ‘AI로 제작’ 라벨이 붙는 게 의무화하고, 보편적 기술로 수용될 때의 문제다. 이용자들은 라벨이 붙어 있는 콘텐츠만 ‘AI로 제작’된 것으로 받아들이고, 라벨이 붙어 있지 않은 콘텐츠는 사람이 만든 콘텐츠로 여기게 된다는 점이다. 이는 악의적 이용자와 사기꾼들이 가장 원하는 상황일 수 있다.

구본권 사람과디지털연구소장 starry9@hani.co.kr