ニュース

Google、第7世代TPU「Ironwood」提供開始 性能は第6世代の4倍

単一ドメインで9,216個のIronwood TPUを直接接続するIronwoodスーパーポッドの一部

Googleは、4月に発表されたAIアクセラレータの第7世代TPU「Ironwood」の提供を今後数週間の間に開始する。

Ironwoodは、大規模なモデルトレーニングや複雑な強化学習から、大容量で低遅延のAI推論など、要求の厳しいワークロード専用に設計されたAIアクセラレータ。第5世代と比較してチップあたり10倍のピークパフォーマンス向上を実現し、第6世代のTrilliumとの比較では、トレーニングと推論の両方でチップあたり4倍以上のパフォーマンスを実現する。

Ironwoodは9.6Tb/sのInter-Chip Interconnectで接続され、1ポッドあたり最大9,216個のチップまで拡張可能。数千のチップが相互に通信し、1.77PB(ペタバイト)のHigh Bandwidth Memory(HBM)を利用できる。

3つのIronwood TPUが液体冷却に接続されているIronwoodボード
Ironwoodスーパーポッドに液体冷却を提供する第3世代冷却分配ユニット
Jupiterデータセンターネットワークにより、複数のIronwoodスーパーポッドを数十万のTPUのクラスターに接続