전기 먹는 AI, 한번 답할 때 얼마나 소비할까 > 뉴스룸

게티이미지

전기와 물을 많이 쓰는 에이아이 데이터센터는 걱정스럽지만, 그렇다고 에이아이를 끊기도 어렵다. 우리는 에이아이를 사용할 때 전기를 얼마나 쓸까?

전력 소비 폭증을 우려하는 근거로 많이 인용되는 수치는 ‘에이아이 검색당 전기 소비량이 기존 검색 대비 10배’라는 것이다. 구글은 2009년 검색당 0.3Wh가 소비된다고 밝혔는데, 이후 네덜란드 경제학자 알렉스 드 브리스가 2023년 논문에서 챗지피티 질문 한 건이 약 2.9Wh를 소비한다고 추정한 수치를 단순 비교한 것이다.

하지만 구글이 지난해 공개한 최신 통계는 이와 차이가 크다. 구글은 제미나이 앱 텍스트 질의의 중간값 지표를 0.24Wh라고 밝혔다. 소비전력 1000W 안팎의 가정용 전자레인지를 약 1초 가동하는 데 드는 전력량이다.

구글은 또한 요소별 전기 사용 비중도 공개했다. 0.24Wh 가운데 가속기 가동에 58%가 들어갔고, 메모리·시피유(CPU·중앙처리장치) 25%, 백업 장비 10%, 냉각과 전력 변환 등에 8%가 소요됐다. 모델 성능 개선, 소프트웨어 최적화, 냉각 효율 개선 등을 통해 질문당 전력 소비를 크게 줄일 수 있다고 전문가들은 말한다.

하지만 구글은 분석 대상을 텍스트로만 국한했다. 이미지·동영상 등까지 포함하면 에너지 소비량은 훨씬 늘어날 가능성이 크다. 당시 구글 수석과학자였던 제프 딘은 이와 관련해 언론 인터뷰에서 “수십권의 책을 입력하고 전체 내용을 요약해 달라는 것과 같은 질의는 중간값 질의보다 훨씬 많은 에너지를 필요로 할 것”이라고 말했다. 여러 단계 연산을 거쳐 답을 내놓는 추론형 모델 역시 일반 질의보다 에너지 소비가 클 수 있다는 설명이다.

이주현 한겨레 사람과디지털연구소 기자 edigna@hani.co.kr