GMOやNTT、IOWN APNで東京-福岡間の分散AI開発基盤

GMOインターネット、NTT東日本、NTT西日本、QTnetは、IOWN APNを活用した東京-福岡間の遠隔分散型AIインフラの技術実証を完了した。東京にストレージ、福岡にGPUを配置したAI開発基盤を構築し、遠隔分散環境でも実用的なAI開発が可能であることを確認した。

今回の実証は、生成AIや大規模言語モデル(LLM)の普及により、AI開発基盤の需要が急拡大するなか、データセンターのスペース制約や自社拠点でのデータ管理ニーズを踏まえて実施したもの。4社は、遠隔地にあるGPUとストレージを接続した際の技術的実現可能性を検討してきた。

実証では、GMO GPUクラウドのGPUと大容量ストレージを接続し、画像分類タスクと大規模言語モデル処理タスクの学習時間を評価した。使用モデルは画像認識モデル「ResNet」とLLM「Llama2 70B」。

検証環境として、GMOインターネットグループの第2本社(渋谷区)とQTnetのデータセンター(福岡市)をIOWN APN(100GbE)で接続。福岡側にGPUサーバー「NVIDIA HGX H100」、渋谷側にストレージ「DDN AI400X2」を配置した。

結果、LLM学習ではローカル環境が24.87分、遠隔環境が24.99分で、性能低下は約0.5%にとどまった。画像分類でもローカル環境が13.72分、遠隔環境が14.38分で、データ読み込みを伴う処理でも遠隔環境で実用レベルの処理が可能であることを確認した。

今後の活用例として、自社管理下の大規模データや機密データを保持したまま遠隔のクラウドGPUでAI学習を実行する構成や、既存のオンプレミス環境とクラウドGPUを組み合わせたハイブリッド運用、計算資源とストレージを地理的に分散配置することで災害や障害時の継続運用を図るBCP対応などを想定する。

4社は今後、IOWN APNの普及と、クラウドサービス事業者や地方データセンターとの連携を進めることで、IOWN APNをAI基盤のバックボーンとして社会実装することを目指す。