NTT「tsuzumi 2」提供開始　30Bで強力な金融・医療知識

NTTは、独自開発の大規模言語モデル(LLM)「tsuzumi」の次世代モデル「tsuzumi 2」の提供を開始した。従来のtsuzumiの基本機能を踏襲しながら、企業や自治体の保有する複雑なドキュメントの理解や専門知識への対応を強化している。

「tsuzumi」は日本語に特化してNTTが開発したLLM。日本語については、日本文化や習慣についても学習しており、7B(70億パラメータ)という小規模ながらより規模の大きいLLMと比較して高い日本語性能を誇る。1GPUでも動作可能なコストパフォーマンスの高さも強み。1GPUで動作可能なことから、導入コストが低く、企業内でのプライベートLLMとして活用が可能。完全自社製とすることで、学習データのコントロールや仕様・品質を自ら決定できることが強みとする。

「tsuzumi 2」は、30B(300億パラメータ)に大規模化しながらtsuzumiと同様に1GPUで動作。tsuzumiを採用した企業から「さらに企業内ドキュメントの読解に特化した機能が欲しい」という要望があったことに応え、企業内での運用に特化。長文の社内ドキュメントの理解力を強化したほか、金融、医療、公共分野の知識を大幅に強化している。

例えば金融知識については、ファイナンシャルプラニング2級試験の正答率で検証したところ、GoogleのGemma-2 27Bでは1,900問の問題を追加で学習することで、合格基準の正解60%を超える64%となったが、tsuzumi 2では200問の追加学習を行なっただけで正解率70%を達成した。特定分野の専門知識を強化したことで、特化モデルの開発効率が大幅に強化されている。

日本語性能についてもさらに向上し、長文の契約書案について社内チェックリストを使って確認したり、条項の不足、問題点なども的確に指摘したりできる。記者会見で公開されたデモでは、他のLLMでは情報をまとめて「リスト化」するよう指示しても、表組として生成してしまうなど正確な出力ができなかったが、tsuzumi 2では指示通りリスト化が可能など、より日本語の理解力が高いことをアピールした。

企業内での特化モデル開発効率も向上。企業毎に特化する個社特化型では「RAG」を活用。自社内データを検索参照しながら正答率の高い回答をするもので、実システムへの適用ではトップクラスの性能を誇る。

業界特化型では「Fine Tuning」を活用。金融業界の追加知識とタスク特化チューニングによって世界トップクラスの金融タスク性能を実現し、他モデルよりも少ないチューニングデータで高い性能を発揮する。

tsuzumi 2の学習パラメータを30Bとしたのは、1GPUでも動作可能な範囲に収めたため。これによりオンプレミスでの運用を実現し、低コストと高セキュアを両立する。例えば「DeepSeek-v3.1(700B)」のハードウェアコストは約1億円、「Llama-4(400B)」で約5,000万円だが、tsuzumi 2は約500万円とし、推論コストを約10～20分の1に低減できる。

また、今回、NTTドコモビジネスが富士フイルムビジネスイノベーションと連携。tsuzumi 2を活用した生成AIソリューション開発の検討を開始している。具体的には富士フイルムのAI技術ブランド「REiLI」を活用し、企業内に散在する契約書や提案書など、形式の異なる文字・図・画像を含む非構造化データを構造化。tsuzumi 2によって構造化されたデータを取り扱うことで企業内の文書・画像データの分析や活用を高度化するAIソリューションの提供を目指す。

tsuzumiでは、基盤モデルを一から開発しており、LlamaやDeepSeekなど海外製のオープン型AIをベースに日本語データで追加学習をしたモデルとは一線を画する。生成AIを自社開発する意義についてNTT代表取締役社長の島田 明氏は、「各国が独自に開発する『ソブリンAI』のニーズが高まっているが、国はそれぞれ自国特有の守らなければならないものがある。全ての国は文化背景、歴史背景、言語を背負って今の時代に至っている。それぞれの国に適応した技術が必要になるというのが世界の流れになっている」とコメントした。

NTT代表取締役社長 島田 明氏

大規模言語モデル開発については、「経済効率を追求して性能をいかに高めるか、学習能力をいかに効率的に上げるか、が重要であり、それを小規模に実現していきたい。ただ、前回のtsuzumiの7Bパラメータでは、もう少しパワーが欲しいとの要望があったことから30Bに拡大した。GPUの性能も向上しており、30Bでも1GPUで動作が可能になった。これはいまのスイートスポットだと考えている」などとした。

島田氏は「tsuzumiは40年間にわたる技術開発の成果を入れ、スクラッチで作り上げたLLMになっている。ここで他社には負けられない」とも語り、「もちろんパートナーとの提携は行ないつつ、お互いのスキルを組み合わせてより便利で効率的なものを作り上げていく」と意気込みを語った。