2030년 대선엔 팩트체크 대폭발? [두런두런 AI ⑳] > 뉴스룸

기자가 가장 싫어하는 한국어 단어는 ‘물’이라고 생각합니다. 다른 언론사에 특종·단독 보도가 나오는 걸 “물 먹었다”고 하죠. 큰 물 먹은 날이면 폐허가 된 가슴에 소주를 콸콸 붓고 싶어집니다. 그럼 기자들이 가장 중요하게 생각하는 영어는 뭘까요? ‘팩트’(FACT). 팩트 파인딩과 팩트 체크는 기자의 핵심 업무 아니겠습니까. 물론 평소에도 팩트 체크가 중요하지만, 팩트 체크가 특히 더욱 중요해지는 시기가 있습니다. 바로 선거 기간입니다.

선거가 다가오면 대부분의 언론사들은 팩트체크 기획을 고민합니다. 2025년 21대 대통령 선거 때 한겨레신문사도 ‘6·3 팩트 다이브’라는 코너를 운용했습니다. 선거 팩트체크 취재에서도 가장 몰입이 필요한 순간이 있습니다. 대선 후보 텔레비전(TV) 토론회입니다. 토론회 날엔 정치부 외에도 사회부·사회정책부·경제산업부·지구환경부 등 거의 모든 부서 기자들이 모여 토론회를 취재합니다. 후보들이 특정 이슈에 대해 어떤 입장인지, 제대로 이해하고 있는지, 거짓말을 하는 건 아닌지 꼼꼼이 살피고 기사를 씁니다. 토론회는 보통 저녁에 열리기 때문에 신문의 경우엔 인쇄 마감시간에 맞춰야 하는 압박이 큽니다. 후보들의 말만 요약 정리하는 것도 빠듯한데, 팩트 체크까지 하기는 쉽지 않습니다.

한국 언론사 중 10년간의 노하우가 쌓여 있는 제이티비시(JTBC)는 대선 팩트체크의 강자라고 할 수 있습니다. 제이티비시는 21대 대선에서 13명의 팩트체크팀을 꾸렸고 3차례 대선 토론회에서 56건의 팩트체크 기사를 거의 실시간으로 내보냈습니다. 하지만… 생각해보세요. 요즘처럼 에이아이(AI)가 일상을 파고든 상황이라면, 토론회 팩트체크 취재도 달라지지 않을까요?

지난 19일 한국언론진흥재단이 주최한 ‘AI 시대 뉴스의 가치와 팩트체크의 진화’ 세미나에선 이와 관련한 흥미로운 연구 결과가 소개되었습니다. 이종혁 경희대 미디어학과 교수님이 만든 ‘AI 활용 팩트체크 시스템’입니다. 거대언어모델(LLM)에 검색증강생성(RAG) 기능을 결합한 것으로, 엘엘엠이 이미 학습한 내용 외에 웹·데이터베이스 등에서 검색한 자료를 바탕으로 문맥을 이해하고 추론하도록 만든 것입니다. 연구실의 지피유(GPU·천만원 정도 가격이래요)를 사용했고, 제미나이 API를 붙여서 직접 만드셨다는데, 교수님은 발제 도중 “저는 문과입니다”를 거듭거듭 반복하셨어요. 이 시스템은 5단계로 작동해요. △토론회 전체 녹취록을 문장 단위로 쪼갠다 △참·거짓 여부를 가릴 필요성이 있는지 판단한다 △네이버 뉴스·구글 서치 등을 통해 증거를 수집한다 △RAG 기반 LLM을 통해 참·거짓·판단 유보 등을 검증한다 △기자 리포트 형태로 근거를 제시하고 검증 결과를 출력한다.

이종혁 경희대 교수가 19일 프레스센터에서 열린 세미나 ‘AI 시대 뉴스의 가치와 팩트체크의 진화’에서 직접 개발한 에이아이 팩트 체크 시스템에 대해 설명하고 있다. 한국언론진흥재단 제공

이종혁 교수님은 21대 대선 토론회에 이 팩트체크시스템을 적용해 결과를 얻었고, 이를 다시 제이티비시의 팩트체크 보도와 대조했습니다. 결과는 놀라웠습니다. 3차례 토론회에서 추출·분리한 문장 3919개 가운데 499개가 팩트체크할 필요가 있다고 했어요. 그리고 이중 280건은 참·거짓으로 분류했고, 219건은 판단유보를 내렸습니다. 제이티비시와 비교해보면, 제이티비시가 팩트체크한 기사 56개 중 52개가 에이아이 팩트체크 시스템과 겹쳤어요. 참·거짓 판단은 41건이 완전히 일치했습니다. 52개 중 판단 의견이 엇갈린 11건은 대부분 에이아이가 판단유보를 내렸기 때문이었습니다.

이주현 기자는 이날 세미나에서 토론자로 나섰는데요, 사전 준비를 하면서 직접 이 팩트체크시스템을 써보기로 했습니다. 이 교수님께서 팩트체크 필요하다고 감지하는 기능은 공개해놓으셨어요.

응? 허깅 페이스… 이주현 기자, 클릭하려는데 좀 망설여지더군요. 이주현 기자는 그간 ‘퓨어 문과’ 정체성에 별 도전받지 않고 살아왔습니다. 하지만 올봄 사람과디지털연구소로 와보니 모르는 용어들이 난무하는데…허깅 페이스도 그 중 하나였어요(@.@) 허깅 페이스는 기사로 먼저 접했죠. 지난달 오픈에이아이(OpenAI)의 신형 모델 지피티-5.6 Sol 등이 보안평가 도중에 격리된 샌드박스를 탈출해 외부 에이아이 개발 플랫폼인 허깅 페이스 서버를 뚫었다는 소식 기억나시나요? 개발자들이 자기가 개발한 소프트웨어 설계도를 꺼내놓고 자랑하는 깃허브는 알겠는데 허깅 페이스는 또 뭐야? 알아보니, 인공지능 모델과 학습 데이터를 공유하고 직접 시험하는 곳이라더군요.

결국, 이주현 기자는 이교수님 덕분에 허깅 페이스로의 짧은 모험을 하게 되었습니다. 네, 클로드와 함께 갔어요.

이런 식의 삽질 대화가 이어지면서 마침내 검은 화면에 파이선 명령어를 입력하는 순간에까지 이르렀습니다.

14개의 문장을 주고, 이중 팩트체크가 필요하다고 생각하는 질문이 무엇인지 물어보는 테스트였는데, 결과는… 성공이었습니다!

답을 분석해보니, 에이아이가 가장 쉽게 판별하는 것은, “우리나라 GDP 성장률은 OECD 평균을 넘어섰습니다” 같은 통계였고요(팩트체크 필요성 98%), 정치적 맥락이 있는 문장은 신중했습니다. 가령 “계엄은 지난 총선이 부정선거로 치러졌기 때문에 발포된 겁니다”와 같은 문장은 팩트체크가 필요하다는 판단이 76%에 불과했습니다. 인간 기자였다면 바로 팩트체크 대상으로 찍었을 텐데요.

이주현 기자는 당장 선거 토론회에서 이 에이아이 팩트체크 시스템을 쓴다면 어떻게 될까, 잠시 상상해보았습니다. 악오, 정말 정신 없을 것 같더군요. 에이아이가 팩트체크가 필요하다고 한 499개 문장 중에서 팩트체크 필요성이 있는 것을 또 골라내야 하잖아요. 한쪽에선 인간 기자가 경험과 직관을 종합한 ‘감’으로 골라내고, 또 한쪽에선 에이아이가 골라낸 걸 또다시 걸러내야 하는 것이지요. 만약, 모든 언론사가 같은 에이아이 팩트체크 시스템을 쓴다면 어떻게 될까요? 이주현 기자는 그래도 언론사마다 다른 기사를 낼 것이라는 생각을 했습니다. 언론사가 중요하다고 생각하는 검증의 가중치가 다를 테니까요. 데이터는 객관적일지라도, 기사는 언론사의 주관이 뚜렷하게 드러날 수 있는 거죠. 에이아이는 찾아내고 사람은 판단하고. 그런데 에이아이가 워낙 일을 많이 하니까 사람이 판단할 몫도 늘어날 것 같습니다.

이종혁 교수님은 세미나 말미에 분명히 말씀하셨습니다. “에이아이를 안 쓰고, 사람이 모두 다 팩트체크를 하는 시대로는 돌아가지 않을 거라고 생각합니다.” 이주현 기자도 고개를 끄덕였습니다. 에이아이가 참전하면 팩트체크 기사가 엄청 늘어나게 될까요? 이렇게 문장 하나하나를 검증하는 식의 팩트체크가 계속 지금처럼 중요할까요? 아주 정교한 에이아이 모델이 만들어져서 칼같이 인간의 거짓말을 발라내게 된다면, 토론회에 나오는 인간 후보는 너무 초라해질 것 같아요. 어쩌면, 후보들도 ‘에이아이 오픈북’을 요구하게 되지 않을까요?

아, 2030년 대선 때는 2026년 8월의 이런 고민도 까마득하게 잊혀질지 모르겠습니다. 에이아이는 정말 너무너무 무서운 속도로 발전하고 있으니까요.

이주현 한겨레 사람과디지털연구소 기자 edigna@hani.co.kr