NVIDIA、初代Agentic AIベンチマークでコード生成性能を圧倒：Blackwellプラットフォームが効率の新基準を確立
Agentic AIベンチマーク「AA-AgentPerf」の登場とその意義
近年、AIエージェントは推論ワークロードの複雑性を根本的に変革しています。従来のAI推論ベンチマークが一つの大規模言語モデル（LLM）呼び出しとその応答速度、あるいは同時リクエスト数を測定するに留まっていたのに対し、Agentic AIの登場は、これらの評価基準がもはや不十分であることを明確にしました。エージェントは、目標を達成するために多くのステップに分解し、複数のLLM呼び出しとツール呼び出しを連鎖させることで、コンテキストの収集、観察、推論、行動を継続的に行います。このプロセスは、コードのコンパイルと実行、データベース検索、Webブラウジングといったツール呼び出しを伴い、コンテキストがステップごとに増加するため、その複雑性は単なる加算ではなく、乗算的に増大します。
このような背景から、業界初のマルチベンダーオープンベンチマークである「AA-AgentPerf (Artificial Analysis AgentPerf)」が開発されました。AA-AgentPerfは、実際のAIエージェントのコーディングタスクを代表する軌跡をプロファイリングすることで、Agenticワークロードのパフォーマンス測定に新たな基準を確立します。このベンチマークは、連鎖的なLLM呼び出し、ツール呼び出しによる遅延、そして肥大化するコンテキストが、単一のLLM呼び出しでは決して体験し得ない形でアクセラレーテッドコンピューティングシステムに負荷をかけるという、Agenticワークロード特有の課題に対応するために設計されています。
NVIDIA Blackwellプラットフォームによる卓越した性能と効率
NVIDIAは、このAA-AgentPerfベンチマークにおいて、Blackwell Ultra NVL72プラットフォームが優れたパフォーマンスを発揮し、テストされたAgentic AIワークロード全体で、NVIDIA Hopperと比較して1メガワットあたり最大20倍ものエージェントを実行できることを示しました。特に、NVIDIA GB300 NVL72は、NVIDIA HGX H200システムと比較して、1メガワットあたり最大20倍多くのエージェントを処理できることが報告されています。
このベンチマークでは、今日の最も高性能なエージェントを動かすフロンティアモデルのクラスを代表する大規模なMoE (Mixture-of-Experts) モデルであるDeepSeek V4 Proが使用されました。NVIDIA GB300 NVL72は、20トークン/秒/エージェントおよび60トークン/秒/エージェントという両方のサービスレベル目標において、NVIDIA H200よりもはるかに多くの同時エージェントを1メガワットあたりでサポートしています。この結果は、NVIDIAがその極めて優れたコ・デザイン戦略によって、Agenticワークロードの性能と効率を大幅に向上させていることを示しています。Blackwellアーキテクチャは、NVIDIAのVera Rubinアーキテクチャとともに、大規模なAgentic AIの増大する要求に応える次世代のインフラ容量をもたらしており、将来的には最適化の継続により、さらに性能と効率が向上すると期待されています。
Agentic AI時代の計算基盤とNVIDIAの戦略的ビジョン
NVIDIAは、Agentic AIの分野に戦略的に注力しており、自律型AIエージェント向けのインフラストラクチャ提供を推進しています。Agentic AIワークフローは、リアルタイムの意思決定やマルチモーダル入力、そして膨大なデータスループットを要求するため、これに対応する計算基盤が不可欠です。NVIDIAの最新のスーパーコンピューティングシステムは、GPUアーキテクチャとネットワーク技術を最大限に活用し、Agentic AIモデルの大規模なトレーニングと推論の両方をサポートするように設計されています.
DSXソフトウェアコントロールプレーンのようなソフトウェアの活用も、Agentic AIの速度を最適化する上で重要な要素とされています。NVIDIAのハードウェアロードマップは、従来のトレーニングクラスターだけでなく、Agenticワークロードに最適化されたシステムをますます重視する方向にあると見られています。これは、他のチップメーカーやクラウドプロバイダーがAIインフラストラクチャの提供方法を設計する上で大きな影響を与える可能性があります。NVIDIAは、高帯域幅メモリと高度なインターコネクトを統合することで、Agentic AIワークフローが必要とする大容量のデータスループットを処理し、自律エージェントを構築するAI企業や企業に計算のバックボーンを提供することを目指しています。
開発者・エンジニア視点での考察
-
マルチステップワークフローにおける低遅延とコンテキスト管理の最適化: Agentic AIが単一のLLM呼び出しから複数の連鎖的なステップへと移行することで、開発者は従来の初手応答遅延（First-Token Latency）だけでなく、各ステップ間の遷移遅延や肥大化するコンテキストの効率的な管理に焦点を当てる必要があります。特に、ツール呼び出しとLLM呼び出し間のデータ転送最適化や、コンテキストウィンドウの効率的な利用が、エージェント全体のパフォーマンスを左右するでしょう。
-
エネルギー効率を考慮したエージェント設計: 「1メガワットあたりのエージェント数」というベンチマーク指標は、大規模なAgentic AIシステムの運用においてエネルギー効率が極めて重要であることを示唆しています。開発者は、エージェントが実行する各ツール呼び出しやLLMインタラクションの計算コストを意識し、不必要な処理を削減するようなエージェントロジックやアルゴリズムを設計することで、リソース利用率とTCO（総所有コスト）を最適化することが求められます。
-
高度なモデルアーキテクチャと効率的なルーティングの活用: DeepSeek V4 ProのようなMoEモデルがAgentic AIベンチマークで優位性を示したことは、エージェントの能力向上のために、より複雑で専門化されたモデルアーキテクチャが有効であることを示しています。開発者は、特定のタスクに特化したエキスパートモデルを組み合わせたり、効率的なルーティングメカニズムを実装したりすることで、Agenticシステムの柔軟性と性能を飛躍的に向上させる可能性を探るべきです。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
