日本語特化LLM「Rakuten AI 3.0」提供開始

楽天グループは、経済産業省と新エネルギー・産業技術総合開発機構(NEDO)の「GENIAC」プロジェクトの一環として、国内最大規模のAIモデル「Rakuten AI 3.0」の提供を開始した。Apache 2.0ライセンスで無償公開される。

日本語性能を強化しているのが特徴の大規模言語モデル(LLM)。日本固有の文化的知識や歴史、大学院レベルの推論、競技数学、指示遵守能力などに関する複数の日本語ベンチマークでは、いずれもgpt-4oなどに比べて高い性能を発揮している。

Rakuten AI 3.0は、日本語に最適化された約7,000億パラメータのMixture of Experts(MoE)アーキテクチャを採用したモデル。オープンソースコミュニティ上のモデルを基に、楽天独自のバイリンガルデータ、技術力などを投入して開発し、日本の独特な言語のニュアンスや文化、慣習をより深く理解できる。従来モデルと比較して、特に複雑なタスクに対する精度が大幅に向上しているという。