Moonshot AI、2.8兆パラメータのKimi K3を公開：主要コーディングベンチマークで中国初首位達成
大規模オープンウェイトモデルの新たな到達点
Moonshot AIは2026年7月に、2.8兆パラメータを持つ大規模言語モデル「Kimi K3」をリリースし、その完全なモデルウェイトを同月末に公開しました。これは、これまでリリースされたオープンウェイトモデルとしては最大級であり、AI業界における重要な転換点を示しています。Kimi K3は、100万トークンという広大なコンテキストウィンドウをサポートし、大規模なコードベース、詳細な研究、および大量のドキュメントの処理を可能にします。さらに、このモデルはネイティブなマルチモーダル機能を備えており、テキストに加えて画像や音声も処理できるため、多様なアプリケーションでの活用が期待されます。このオープンウェイト戦略は、開発者コミュニティによる広範な採用とカスタマイズを促進し、AIイノベーションの民主化に貢献するとMoonshot AIは強調しています。
革新的なアーキテクチャと効率的なトレーニング戦略
Kimi K3は、高性能を実現するためにMixture-of-Experts (MoE) アーキテクチャを採用しています。具体的には、896の専門家（エキスパート）から構成され、入力ごとに16のエキスパートがアクティブになる疎なMoEセットアップを使用しています。これにより、2.8兆という膨大なパラメータ数にもかかわらず、推論時の計算コストを効率的に管理しています。また、Moonshot AIは、Kimi K3の基盤となる二つの主要なアーキテクチャ革新として、「Kimi Delta Attention」（ハイブリッド線形アテンションメカニズム）と「Attention Residuals」（残差接続の代替）を開発しました。これらの技術は、以前にオープンリサーチとしてGitHubで公開されており、Kimi K2と比較して約2.5倍の全体的なスケーリング効率向上に貢献しています。
トレーニングに関しては、Kimi K3はMoonshot AI独自の強化学習手法を採用しており、複雑なモンテカルロ木探索や価値関数、プロセス報酬モデルに依存せず、長文コンテキストスケーリングとポリシー最適化の改善に焦点を当てています。トレーニングパイプラインは、教師ありファインチューニング、そして汎用タスク、汎用エージェント、コーディングエージェントの3つの広範なドメインにわたる強化学習の3段階で構成され、それぞれ低・高・最大という3つの推論レベルで実行されることで、9つの専門モデルが生成されます。トレーニングタスクは、エージェントが自ら成長させる知識グラフから構築され、手作業で構築された自己チェック可能な環境に対して強化学習が実行される点が特筆されます。
主要ベンチマークにおける卓越した性能
Kimi K3は、そのリリース後すぐに主要なベンチマークで目覚ましい結果を示しました。特に、Arena.aiのFrontend Code Arenaにおいて、中国のモデルとして初めて首位を獲得しました。これは、大規模なコードベースの理解、複雑なデバッグ、およびアーキテクチャ設計におけるKimi K3の強力な能力を裏付けるものです。Artificial AnalysisのIntelligence Indexでは第3位にランクインし、コーディング、エージェント、推論、知識タスクにおいてフロンティアレベルの性能を発揮しています。
Moonshot AIの報告によると、Kimi K3は、DeepSWE、Program Bench、Terminal Bench 2.1、Next.jsといったコーディングベンチマークで高いスコアを記録しており、特にTerminal Bench 2.1ではGPT-5.6 Solとほぼ同等の性能を示しています。全体的な評価では、AnthropicのClaude Fable 5やOpenAIのGPT-5.6 Solに肉薄する性能を達成しているとされています。ネイティブなビジョンサポートにより、スクリーンショットの検査、コードベースの変更、結果として得られるインターフェースの推論といった、フロントエンド開発などの視覚的な作業にも対応可能です。
開発者・エンジニア視点での考察
-
オープンウェイトモデルによるイノベーションの加速とコスト効率の向上: Kimi K3が2.8兆パラメータというフロンティアレベルの規模でありながらオープンウェイトで公開されたことは、商用利用における柔軟性とコスト効率の点で大きなメリットをもたらします。開発者は、特定のユースケースに合わせてモデルを自由にファインチューニングし、自社インフラにデプロイできるため、クローズドAPIモデルに比べてベンダーロックインのリスクを低減し、長期的な開発コストを最適化することが可能です。
-
Mixture-of-Experts (MoE) アーキテクチャと効率的なリソース利用の可能性: Kimi K3のMoEアーキテクチャ（16/896アクティブエキスパート）は、巨大なパラメータ数にもかかわらず、推論時のアクティブパラメータ数を抑えることで効率的な計算を実現しています。これにより、開発者は、モデルの高性能を享受しつつ、限られたGPUリソースでもMoEの恩恵を受けられる可能性があり、特にオンプレミスやエッジデバイスへのデプロイにおいて、新たな最適化戦略を検討する余地が生まれます。
-
長文コンテキストとマルチモーダリティによる応用領域の拡大: 100万トークンのコンテキストウィンドウとネイティブマルチモーダル機能は、これまでのモデルでは困難だった、超長文の法的文書分析、大規模なソフトウェアプロジェクトの自動生成とデバッグ、複雑な科学論文からの知識抽出、さらには画像・動画入力に基づくエージェントの自律的タスク実行など、多岐にわたる高度な応用を可能にします。開発者は、これらの機能設計を活用し、より複雑で実世界に近い課題を解決するための革新的なAIアプリケーションを構築できるでしょう。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
