マイクロソフト、Copilot+ PCのための小型言語モデル「Mu」

マイクロソフトは、NPUによるローカルでの実行に特化した小型言語モデル「Mu」を発表した。複雑な入出力関係の推論を必要とするケースに対応し、Copilot+ PCの設定エージェント基盤として動作する。現在はWindows Insider Program(Dev Channel)の参加者のみが利用できる。

「Mu」は、マイクロソフトが開発したローカル言語モデル「Phi Silica」での知見を活用し、NPUとエッジデバイス上で効率的に動作するようゼロから設計。330Mパラメータのエンコーダ・デコーダ型言語モデルで、Copilot+ PCのNPU向けに最適化されており、NPU上で全ての推論を完結する。このため、インターネット回線が無くても利用できるほか、応答速度も高速で、従来モデルよりも最大47%の低遅延と、約4.7倍のデコード速度を実現している。

また、1秒あたり100トークン以上のレスポンスを実現し、エージェントによる設定操作を可能にするUXの要件を満たしているという。設定エージェントは既存の検索ボックスに統合され、ユーザーが変更したいWindowsの設定を自然言語で入力することでエージェントが設定を変更してくれる。