구글은 AI 전력 사용량에 대해 모든 정보를 공개하지는 않았다

AI에 답변을 요청할 때마다 소모되는 전력량은 크지 않을지도 모르지만, AI로 인한 에너지 수요는 여전히 큰 문제이다.

구글은 최근 보고서를 통해 제미나이 앱에서 일반적인 질문을 할 때마다 약 0.24Wh(와트시)의 전력이 소모된다고 발표했다. 이는 전자레인지를 1초간 가동할 때 사용되는 전력량과 동일한 수준이다. 이 정도 전력량이면 사실상 무시할 만한 수치로 느껴질지도 모른다. 필자의 경우에도 대체로 그보다 훨씬 더 오랜 시간 동안 전자레인지를 사용하기 때문이다.

이번 보고서가 발표된 것은 환영할 만한 일이다. 필자는 다른 AI 기업들도 프롬프트(질문이나 요청)당 예상 전력 소비량을 더 투명하게 공개하길 바란다. 그러나 일부 사람들은 이 수치를 근거로 AI의 전력 소비량을 걱정할 필요가 없다는 결론을 내리고 있는 듯하다. 이는 올바른 해석이 아니다. 이번 기사에서는 그 이유를 자세히 살펴보겠다.

1. 구글이 발표한 수치는 모든 종류의 프롬프트를 반영하지 않았다. 훨씬 더 많은 전력을 소비할 가능성이 있는 사례들은 제외됐다.

구글이 보고서에서 제시한 전력량은 텍스트 프롬프트만 고려한 수치이다. MIT 테크놀로지 리뷰의 보도를 포함한 기존 분석에 따르면 AI가 사진이나 동영상을 생성할 경우 일반적으로 더 많은 전력이 소비된다.

구글의 제프 딘(Jeff Dean) 수석과학자는 필자와의 인터뷰에서 “구글은 이미지나 동영상 생성과 관련해 AI가 소비하는 전력량을 분석할 계획이 없지만, 그래도 가능성을 배제하지는 않는다”고 말한 바 있다.

딘 수석과학자에 따르면 구글이 텍스트 프롬프트에 대한 전력량 분석을 먼저 시도한 이유는 많은 사람이 일상에서 텍스트 프롬프트를 사용하고 있고, 이미지나 동영상 생성은 그에 비해 사용 빈도가 적기 때문이다. 그러나 필자가 보기에 소셜미디어에는 AI로 생성한 이미지와 동영상이 점점 더 늘어나고 있다. 따라서 이와 관련해 AI가 소비하는 전력량도 고려해야 할 필요가 있다.

또한 이번 추정치는 ‘중앙값’에 불과하다. 다시 말해 구글이 처리하는 다양한 프롬프트에 대한 전력 소비량 중 중간에 해당하는 값이라는 의미이다. 프롬프트와 답변이 길어지면 전력 소비량은 이보다 증가할 수 있으며, 추론 모델을 사용할 경우에도 마찬가지이다. 이번에 발표된 수치만으로는 복잡한 프롬프트에 얼마나 많은 전력이 소비되는지, 프롬프트에 따른 전력 소비량이 어떤 식으로 분포되어 있는지는 전혀 알 수 없다.

2. 제미나이가 처리하는 총 프롬프트 수를 알 수 없으므로 제미나이가 소비하는 전체 전력량도 파악할 수 없다.

제미나이의 전력량 소비와 관련해 가장 궁금한 점은 제미나이가 매일 처리하는 총 프롬프트 수가 얼마나 되는가이다.

이 수치는 이번 구글 보고서에 포함되어 있지 않으며, 구글은 필자에게 해당 수치를 공유하지 않았다. 여기서 한 가지 명확하게 짚고 넘어갈 점은, 이번 보고서에 대한 기자회견이나 딘 수석과학자와의 인터뷰에서도 필자는 이 문제에 대해 계속 답을 요구했다는 것이다. 구글은 기자회견에서 필자에게 최근 실적 보고서를 참조하라고 말했으나, 해당 보고서에는 월간 활성 사용자수(4억 5,000만 명)에 대한 수치만 포함되어 있었다.

딘 수석과학자는 인터뷰에서 “여러 가지 이유로 해당 수치를 공개하기는 어렵다”고 밝혔다. 이어서 그는 “총 프롬프트 수는 시간에 따라 변하는 추상적인 지표이므로 우리는 사용자가 프롬프트당 전력 소비량만 고려하기를 바란다”고 덧붙였다.

그러나 필자뿐 아니라 전 세계 수많은 사람들이 현재 AI 기술을 활용하고 있다. 따라서 이 많은 사람들이 매일 얼마나 많은 프롬프트를 작성하며 전력을 소비하고 있는지 파악하는 것은 상당히 중요한 일일 것이다.

오픈AI는 총 프롬프트 수를 공개적으로 공유하며, 최근 챗GPT에 입력되는 프롬프트 수가 매일 25억 건에 달한다고 밝힌 바 있다. 오픈AI의 수치에 구글이 발표한 프롬프트당 평균 전력 사용량(0.34Wh)을 적용해 계산하면, 챗GPT가 매일 25억 건의 프롬프트를 처리하며 얼마나 많은 전력을 소비하고 있는지 대략 추산할 수 있다.

필자의 계산에 따르면 해당 수치는 연간 300GWh(기가와트시)가 넘는다. 이는 미국의 약 3만 가구가 1년간 사용하는 전력량과 맞먹는 수치이다. 전자레인지를 1초간 가동하는 정도의 전력량이라고 생각했을 때는 매우 작아 보였던 수치가, 전부 합쳐지면 엄청난 정도에 이른다는 것을 새삼 깨달을 수 있다.

3. AI는 챗봇뿐 아니라 어디에나 존재하지만, 우리는 그 존재조차 인지하지 못하는 경우가 많다.

우리가 의식하지 않을 때도 AI는 우리 삶에 스며들고 있다. 인터넷에서 정보를 검색하면 우리가 요청하지 않아도 AI 요약이 생성된다. 이메일과 문자 앱에는 메시지 초안을 작성하거나 요약해주는 기능이 내장되어 있다.

이번 구글의 추정치는 순전히 제미나이 앱에만 한정됐다. 구글에서는 제미나이 외에도 다양한 방식으로 AI를 활용하고 있지만 그 경우에 소모되는 전력량은 포함되지 않았다. 따라서 AI 사용에 대한 개인의 전력 소비량은 계산하기가 더 어려워지고 있다.

필자는 사람들이 유용한 도구인 AI를 사용하면서 죄책감을 느껴야 한다고 생각하지 않는다. AI의 전력 소비와 관련해 중요한 논의는 개인의 책임에 관한 것이 아니다.

현재는 작은 숫자에 주목하는 경향이 있지만, 우리는 이 숫자들이 누적되면 어떤 결과를 초래할 수 있는지를 늘 염두에 두어야 한다. 2030년까지 루이지애나주에서는 메타의 데이터센터 한 곳에 전력을 공급하기 위해 2GW(기가와트) 규모의 천연가스 발전소를 새로 가동해야 한다. 구글 클라우드는 미국 동부 전력망에서 AI 관련 인프라에만 250억 달러를 투자하고 있다. 2028년까지 AI는 미국에서 연간 326TWh(테라와트시)의 전력을 소모할 것으로 예상되며, 이로 인해 1억 톤 이상의 이산화탄소가 배출될 가능성이 있다.

구글뿐 아니라 다른 AI 기업들도 AI의 전력 소비량에 대해 공개해야 한다. 구글의 이번 발표는 비교적 투명한 사례에 속하지만, 구글에서 발표한 수치가 작다고 해서 AI가 지역사회와 전력망에 미치는 영향을 잊어서는 안 될 것이다.

The post 구글은 AI 전력 사용량에 대해 모든 정보를 공개하지는 않았다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.