Geminiのエネルギー消費は1チャット「テレビ9秒未満」　Googleが報告

Googleは、「Gemini」で消費されるエネルギーなどを測定する方法をまとめ、技術論文として公開した。測定結果が、発表済みの公的な推定値より大幅に低いとする一方、従来の計算方法はシステム全体を考慮せず過小評価する傾向にあり、包括的で正確な測定方法を業界に広めたい考え。Googleはさまざまな策を講じたことで、環境負荷が改善していることも報告している。

Geminiがプロンプト(ユーザーからの命令)によって動作した場合の、消費エネルギー量、CO2排出量、水の消費量の3つについて、テキストプロンプトの中央値は、エネルギー消費量が0.24Wh、CO2排出量が0.03g(gCO2e、二酸化炭素換算排出量)、水の消費量が0.26mlだった。エネルギー消費量はテレビ視聴の9秒未満、水は約5滴に相当するとしている。

これらの結果は、Googleの規模や、実際に使われているチップの性能や利用率も反映した正確なものだが、すでに発表されているような(過大、あるいは不完全な)「多くの公的な推定値」より大幅に低いとした。

また、最新のデータセンターでの継続的な取り組みを反映し、直近12カ月でエネルギー消費量の削減は33倍に、CO2排出量の削減は44倍に改善しているという。

Googleは今回用いた測定方法を公開することで、資源消費や効率を計算する際の業界全体の統一性を高めたいとしている。これには、本番環境の規模で実際に稼働するシステム全体の動的電力、アイドル状態の消費エネルギー、GPUやTPUだけでなくCPUやRAMのエネルギー消費、データセンターの冷却システムといったインフラ部分、水冷システムの水消費などが含まれる。

測定方法に関してGoogleは、研究機関や環境保護団体などで一般的に採用されている、現在のAIのエネルギー消費に関する計算方法の問題点も指摘している。従来の計算は、Googleが今回の測定に取り入れたような重要な要素を見落としているとし、実稼働ではなく、アクティブなTPUとGPUの消費量のみを考慮した理論的な効率を「楽観的なシナリオ」で表しているに過ぎず、実際の運用時の環境負荷を「大幅に過小評価している」という。

この従来のAI消費エネルギーの計算方法を用いると、Geminiのテキストプロンプトの中央値は、いずれもGoogleの測定結果より低く、エネルギー消費量が0.1Wh、CO2排出量が0.02g(gCO2e)、水の消費量が0.12mlと推定されるという。

包括的で正確な測定方法を採用することで、従来の計算結果より数値が増加するものの、GoogleはAIの効率化についてフルスタックアプローチで負荷の低減に取り組んでいると説明。これには、より効率的なモデルアーキテクチャの採用のほか、効率的なアルゴリズムと量子化、最適化された推論、TPUをゼロから設計してきた実績によるカスタムビルドのハードウェア、最適化されたアイドル状態、効率的なデータセンター運用などが含まれる。