NVIDIA Nemotron 3.5 Super VL、マルチモーダル推論で特化型エージェントを強化


ADVERTISEMENT

Nemotron 3.5 Super VL:革新的なマルチモーダル推論とMoEアーキテクチャ

NVIDIAは、複雑なエンタープライズワークフローに対応する特化型エージェントを強化するため、オープンでカスタマイズ可能なマルチモーダルモデル「NVIDIA Nemotron 3.5 Super VL」を発表しました。このモデルは、テキスト、画像、ドキュメント(PDF、チャート、テーブル)、GUIスクリーンショット、ビデオといった多様な入力形式を理解し、推論、命令実行、ツール利用を統合することで、企業が直面する多岐にわたる課題に対応します。

Nemotron 3.5 Super VLの核となるのは、1200億パラメータの混合エキスパート(MoE)アーキテクチャであり、トークンごとに120億のパラメータをアクティブ化します。この設計は、モデルの能力と推論効率のバランスを最適化し、高いスループットを実現します。さらに、ハイブリッドなMamba-Transformerアーキテクチャとマルチトークン予測により、生成プロセスが加速され、NVFP4 KVキャッシュ量子化によってKVキャッシュのメモリフットプリントが削減されるなど、エージェントワークロードに特化した性能最適化が施されています。これにより、単一のGPU上で、同サイズの他のオープンモデルと比較して最大5倍高いエージェントタスクスループットを達成できるとされています。

特化型エージェントのための高性能と柔軟なカスタマイズ

Nemotron 3.5 Super VLは、長期的かつ多段階のワークフローを処理する「常時稼働エージェント」のニーズに応えるべく設計されています。たとえば、顧客サービスエージェントが会社の返品ポリシーを読み込み、領収書の写真を解析したり、リサーチエージェントがウェブサイトを横断して情報を収集・検証したりするようなシナリオで、テキストと視覚情報を単一のモデルで処理できるため、異なるシステム間でコンテキストを渡す手間が省かれ、効率が大幅に向上します。

開発者はNVIDIA NeMoを用いて、独自のデータ、ツール、ポリシー、ワークフローでNemotron 3.5 Super VLをポストトレーニングすることで、特定のドメインに特化したエージェントを構築できます。これにより、汎用モデルの挙動に依存することなく、企業の要件に合わせたマルチモーダルエージェントを柔軟に開発することが可能です。展開においても、ローカルインフラストラクチャからクラウドまで、あらゆる環境でデプロイ可能であり、NVIDIA NIM™マイクロサービスとしても利用できるため、導入の障壁が低減されます。Nemotron 3.5 Super VLは、専門タスクのベンチマークにおいて、Claude Opus 5やGPT-6.1 Solといったモデルを、ポストトレーニング後に上回る性能を示しています。

エージェントワークフローと多様なユースケース

Nemotron 3.5 Super VLは、そのマルチモーダルな理解能力と強力な推論能力を活かし、幅広いエージェントワークフローに応用可能です。具体的なユースケースとしては、以下のようなものが挙げられます。

  • コーディング支援: コードのテストと検証、エラー分析、修正案の推奨。
  • Webリサーチ: ウェブサイトを横断した情報検索、情報の関連付け、回答の検証。
  • ドキュメントインテリジェンス: テーブル、チャート、ページレイアウトの解釈、構造化情報の抽出。
  • カスタマーサービス: ポリシー文書と顧客データの照合、画像データ(領収書など)の解析。
  • サイバーセキュリティ: ログやネットワークトラフィックの視覚的分析と相関。
  • ビデオ理解: ビデオコンテンツの分析とそこからの推論。

これらのユースケースにおいて、Nemotron 3.5 Super VLは、100万トークンという広範なコンテキストウィンドウをサポートしており、長期間にわたる複雑な対話やドキュメント分析にも対応できます。

開発者・エンジニア視点での考察

  1. マルチモーダル入力の単一モデル処理による開発効率向上: 複数の異なるモダリティ(テキスト、画像、ビデオなど)の情報を処理するために、以前は別々のモデルを連携させる必要がありました。Nemotron 3.5 Super VLは、これらのモダリティを単一のモデルで統合的に理解・推論できるため、開発者は異なるモデル間のコンテキスト受け渡しやデータ変換の複雑さから解放され、エージェントシステムの設計と実装が大幅に簡素化されます。これにより、開発期間の短縮とエラー発生リスクの低減が期待できます。

  2. MoEアーキテクチャと高いスループットを活かした大規模エージェントシステムの設計: 1200億パラメータのMoEアーキテクチャとトークンあたり120億のアクティブパラメータという設計は、高いモデル能力と効率的な推論の両立を可能にします。開発者はこの特性を活かし、リソースが限られる環境(例:エッジデバイス)から大規模なデータセンターまで、様々なデプロイメントシナリオで高性能なエージェントを構築できます。特に、同サイズの他モデルを最大5倍上回るスループットは、高頻度で実行されるエンタープライズエージェントの要求に応える上で極めて重要です。

  3. NVIDIA NeMoを用いたドメイン特化型エージェントの迅速な開発とデプロイ: NVIDIA NeMoプラットフォームを活用したポストトレーニング機能は、企業が独自のデータ、ルール、ツール、ワークフローに基づいてNemotron 3.5 Super VLをカスタマイズできる強力な手段を提供します。これにより、一般的なAIモデルでは対応しきれないような、特定の業界や業務に深く特化した知識を持つエージェントを迅速に開発し、組織のプライバシーおよびセキュリティ要件を満たしながら、オンプレミスまたはクラウド環境に柔軟にデプロイすることが可能になります。


Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT