Google、省電力な小型AI「Gemma 3 270M」

Googleは、生成AIのオープンモデル「Gemma」の小型版「Gemma 3 270M」を発表した。ゼロから設計されたという2億7,000万パラメータのコンパクトなモデルで、デバイス上での稼働や研究用途で利用しやすくしたのが特徴。Hugging Face、Ollama、Kaggle、LM Studio、Dockerでダウンロードできる。

「Gemma 3 270M」はコンパクトで高性能なことに加え、極めて高いという省電力性能も備える。Pixel 9 ProのSoCで行なった社内テストでは、25回の会話でバッテリーを0.75%しか消費せず、Gemmaモデルの中で最も電力効率が高いモデルになっているという。

また、事前学習済みチェックポイントと同時に、命令チューニング済みモデルも提供される。複雑な会話には向かないものの、一般的な命令をすぐに追従できる強力なモデルとしている。

このほか、Quantization-Aware Trained(QAT)のチェックポイントが利用可能で、リソースが限られたデバイスにおいてパフォーマンスの劣化を最小限に抑えながらINT4精度でモデルを実行可能。上記のPixel 9 ProでのテストでもINT4で量子化されたモデルが用いられた。

小型モデルながら強力な命令追従機能を提供。IFEvalベンチマークではこのサイズのモデルとして高い性能を実現しており、オンデバイスや研究用途でより利用しやすくした

Googleは、エンジニアリングの成功は単なる力ではなく、効率性によって定義されるとし、「Gemma 3 270M」の特徴について「適材適所」と表現している。「箱から出してすぐに命令をよく追従する高品質の基盤モデル」とするほか、ファインチューニングで真価を発揮し、特化させることでテキスト分類やデータ抽出といったタスクを、高い精度、速度、費用対効果で実行可能。「コンパクトで高性能なモデルから始めることで、無駄がなく、高速で、運用コストを劇的に抑えた本番システムを構築できる」としている。

「Gemini」(ジェミニ)がGoogleの提供するサービスであるのに対し、「Gemma」(ジェマ)はGeminiと同じ研究や技術を基に開発された、オープンソースで提供されるAIモデル。個人・商用利用、再配布が可能で、無料。