Mistral Large 4：1兆パラメータを有する欧州発ネイティブマルチモーダルLLMの全貌
アーキテクチャとトレーニング基盤：1兆パラメータ・MoEの実現手法
Mistral AIは、同社最大かつ最も強力なオープンウェイト（公開予定）モデル「Mistral Large 4（開発コードネーム：le Chonk）」のパブリックプレビューを発表した。本モデルは、総パラメータ数1兆（1 Trillion）規模を誇るネイティブマルチモーダルモデルであり、その中で同時に駆動するアクティブパラメータ数は490億に設計されている。
インフラ面においては、欧州内の自社データセンターに配備された3,800基のNVIDIA Grace Blackwell GPUクラスターを使用してスクラッチから事前学習が行われた。特筆すべきは、160以上の言語（EUの全公用語を含む）を網羅する広範な多言語コーパスを用いた学習アプローチである。これにより、欧州のAI主権（Sovereign AI）を体現しつつ、プライベートクラウドやオンプレミス環境での自律的なデプロイを可能にしている。
また、強化学習（RL）のパイプラインにおいては、非同期でのモデル学習と並行して、自動スケーリングするアクターフリートが数万件のロールアウトを並行生成する仕組みが採用されている。これにより、長大な軌跡（ロングホライズン）や数百万トークン規模のロールアウト予算を維持しつつ、オフポリシー・ドリフトを最小限に抑えた安定したスケーリングを実現している。現状の計算規模（3k基のGPU）では、1日あたり約330億トークンが生成され、フィルタリングやマスキングを経て約160億トークンの訓練可能な完了トークンが確保されている。
特化型ベンチマークにおける性能とサイバーセキュリティ適性
Mistral Large 4は、コーディング、エージェントワークフロー、科学技術計算、そしてサイバーセキュリティの領域において極めて高いパフォーマンスを発揮する。
- サイバーセキュリティ: Artificial Analysis Cyber IndexやCybenchにおいてオープンウェイトモデルの最高水準を更新しており、実際のオープンソースソフトウェアの脆弱性を再現・パッチ適用するテストでは82%という高いスコアを記録した。従来の多くの商用クローズドモデルが安全性フィルターや過度な拒絶（Refusal）によってスコアが伸び悩む中、本モデルはマルウェア解析、脆弱性の優先順位付け、検知ルールの記述といった防衛的タスクを制限なく遂行できる実用性を備えている。
- エージェント・知識労働: DeepSWE v1.1で61.7%、Terminal-Bench 4で28.3%を記録し、コーディングエージェントインデックスの総合スコアは49.8%に達する。また、Gmail、Googleスプレッドシート、Slack、Salesforceなどを横断する657種類のビジネスワークフローを評価するAutomationBenchでは59.9%をマークした。金融・法律の専門的タスクにおいても、EDGAR等の公的ファイリングを横断検索して複雑なコーポレートファイナンス課題を多ステップで解決する能力が実証されている。
- マルチモーダル・視覚的グラウンディング: ギガピクセルの衛星画像解析や複雑なエンジニアリング図面の検証といったタスクにおいて、Dense 200ベンチマークで42%を記録するなど、一部の最先端クローズドモデルを凌駕する視覚的グラウンディング性能を示している。
開発者・エンジニア視点での考察
-
厳格な安全フィルターに縛られないサイバー防衛・解析の自動化: 従来のフロンティアモデルでは過剰なガードレールによって阻まれがちだった脆弱性の再現検証やマルウェアの構造解析を、セキュアなオンプレミス/プライベートクラウド環境下で自律エージェントに実行させることが可能になり、セキュリティオペレーションの自動化における大きなボトルネックが解消される。
-
長大なコンテキストとロングホライズンRLによる安定した推論: 数百万トークン規模のロールアウトや長大な軌跡を許容する非同期強化学習基盤の導入により、単なるチャット応答にとどまらず、複数ツールを連係させる複雑なマルチステップのソフトウェアエンジニアリングや科学シミュレーション（Hartree-Fock計算など）のワンショット実行精度が飛躍的に向上している。
-
欧州のAI主権に準拠したオープンウェイト提供とMistral Forgeの親和性: 1兆パラメータ規模のフラグシップモデルのウェイト公開（月末予定）に加え、Mistral Forgeを通じて提供されるトレーニング・カスタマイズ環境が共通化されているため、開発者は最先端のMoE構造をベースに自社データ特化型のカスタムモデルを効率的に構築・運用できる。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
