NVIDIA Vera RubinとBlackwellがエージェントAIの性能/ワット効率に新基準を確立
NVIDIA Blackwellアーキテクチャ：エージェントAIを加速する基盤
NVIDIA Blackwellアーキテクチャは、HopperおよびAda Lovelaceマイクロアーキテクチャの後継として2024年第4四半期に発表され、AIトレーニングと推論ワークロード向けに設計されています。このアーキテクチャは、TSMCのカスタム4NPプロセスを用いて製造された2080億個のトランジスタを搭載しています。Blackwellの最大の特徴は、革新的なデュアルダイ設計にあり、2つのリチクルサイズに制限されたダイが10 TB/秒のチップ間相互接続によって結合され、単一の統合GPUとして機能します。これにより、従来のモノリシックGPUアーキテクチャの物理的限界を克服しつつ、両ダイ間で完全なキャッシュコヒーレンシを維持しています。
Blackwellは第5世代のTensorコアを導入し、FP4やFP6といった超低精度フォーマットをサポートしています。これにより、大規模モデルがメモリに収まるようになり、Transformer Engineの強化を通じて許容可能な精度を維持しつつ、AI処理能力を大幅に向上させます。特に、B200デバイスではFP4で最大7702.5 TFLOPSを実現します。また、Tensor Memory (TMEM) 階層とオンチップのデータ圧縮エンジンも搭載されており、メモリレイテンシを削減し、データフローを最適化することで、Transformerベースの機械学習やリアルタイム推論アプリケーションに特に影響を与えます。NVIDIA GB200 NVL72システムは、36個のGB200 Grace Blackwell Superchip（36個のGrace CPUと72個のBlackwell GPUで構成）をラック規模で接続し、兆パラメータ規模のLLMに対するリアルタイム推論で30倍の高速化を実現します。Blackwell Ultraは、Agentic AIにおいて最大50倍の性能向上と35倍のコスト削減を提供します。
NVIDIA Vera Rubinプラットフォーム：次世代エージェントAIのための統合設計
NVIDIA Vera Rubinプラットフォームは、Blackwellの後継として2026年後半（2026年第3四半期）にリリースが予定されています。これは単なるチップではなく、Agentic AIワークロードのライフサイクル全体をカバーするために共同設計された7つのチップからなる5ラックアーキテクチャという、完全なAIファクトリーの設計図です。Vera Rubinプラットフォームは、Rubin GPUとVera CPUを主要なコンポーネントとして構成されています。
Rubin GPUは、TSMCの3nmプロセスとデュアルダイ設計を採用し、Blackwellよりも1.6倍多い3360億個のトランジスタを搭載しています。HBM4メモリをサポートし、FP4で50 sparse petaflopsの性能が期待されています。 Vera CPUは、Blackwell世代のGrace CPUを置き換えるもので、Agentic AI向けに特化して設計されています。TSMCの3nmプロセスで製造され、2270億個のトランジスタと88個のカスタムArm Olympusコアを備えています。Spatial Multi-Threadingにより、実効スレッド数は176に倍増します。Vera CPUは、コンテキストメモリの管理、トークンのルーティング、推論パイプラインの飽和維持といったAgentic AI特有のタスクに最適化されており、従来のx86アーキテクチャと比較して、Agenticサンドボックス性能で1.8倍以上の向上を実現します。 Vera Rubin Superchipは、1つのVera CPUと2つのRubin GPUを1つのパッケージに統合した基本演算ユニットです。 Vera Rubin NVL72は、NVIDIAのフラッグシップラック規模システムであり、GB200 NVL72の後継です。72個のRubin GPUと36個のVera CPUを単一の液冷ラックに搭載し、NVLink 6によって接続されます。これは、NVIDIA初の完全液冷ラック規模AIシステムとなります。
エージェントAI性能と電力効率の飛躍的向上
BlackwellおよびVera Rubinプラットフォームは、特にAgentic AIワークロードにおいて、性能と電力効率の大幅な向上を実現しています。Agentic AIは、チャットボットのような単一の推論とは異なり、目標を多くのステップに分解し、複数のLLM呼び出しとツール呼び出しを連鎖させることでコンテキストを収集し、推論し、行動します。この連鎖的な性質と、コード実行、データベース検索、ウェブブラウジングといったツール呼び出しの遅延、そして増加するコンテキストが、従来のAI推論ベンチマークでは捉えきれない、加速コンピューティングシステムに根本的に異なるストレスを与えます。
NVIDIAの測定データによると、Vera Rubin NVL72システムは、Agenticなコーディング軌跡において、NVIDIA GB300 NVL72と比較して、メガワットあたり30倍高いスループットと35倍低いトークンコストを提供します。また、CoreWeaveによる顧客測定では、Blackwellと比較してDeepSeek-R1で10倍の性能/ワット向上が記録されています。Blackwell Ultra NVL72プラットフォームも、Agentic AIワークロードにおいてNVIDIA Hopperと比較してメガワットあたり20倍多くのエージェントを実行できるという、業界初のAgentic AIベンチマーク「AgentPerf」で優れた性能を発揮しています。
これらの効率向上は、BlackwellのFP4/FP6精度の導入、デュアルダイ設計、およびVera RubinプラットフォームのVera CPUによる革新的なシステム設計に起因します。Vera CPUは、モデル推論を取り巻くCPU集約的な作業（ツール使用、コード実行、データ処理、オーケストレーション、シミュレーション）を加速するために設計されており、Agentic AIにおいてCPUがボトルネックとなる問題を解決します。このアーキテクチャの進化は、電力あたりのAIファクトリー出力を最大化することを目的としており、Agentic AIの時代においてCPU、ネットワーク、およびシステムアーキテクチャを単一の相互依存的な設計問題として再考するNVIDIAの戦略を反映しています。
開発者・エンジニア視点での考察
-
** Agentic AIワークロードの最適化戦略の再考:** Vera RubinとBlackwellは、Agentic AIに特化したCPU-GPU協調設計と低精度演算の進化により、従来のLLM推論とは異なる最適化アプローチを必要とします。開発者は、Vera CPUが提供するコンテキスト管理、ツールオーケストレーション、データ処理能力を最大限に活用し、GPUが推論に集中できるようなマルチスレッド処理や非同期I/Oの設計を深く検討する必要があります。特に、Agenticワークロードの特性である「待機時間」の削減には、Vera CPUのSpatial MultithreadingやLPDDR5Xメモリによる高帯域幅が重要となるため、これらを意識したアプリケーションレベルのパイプライン最適化が求められます。
-
HBM4とNVLink 6を活用した大規模モデルの効率的なデプロイ: Rubin GPUのHBM4メモリとNVLink 6の導入は、テラバイト規模のモデルや非常に長いコンテキストウィンドウを持つエージェントのデプロイメントにおいて、メモリバンド幅とGPU間通信のボトルネックを大幅に緩和します。開発者は、これらのハードウェア機能を利用して、より大規模かつ複雑なエージェントモデルを単一のNVL72ラック内で効率的に分散・実行する戦略を考案できます。特に、モデル並列化やデータ並列化の手法において、NVLink 6の高い帯域幅を活かした新たな分散学習・推論フレームワークの設計や、既存フレームワークの最適化が重要となります。
-
性能/ワットとTCOを意識したAIインフラストラクチャの設計: Vera Rubinプラットフォームがもたらす電力効率の劇的な改善（Blackwell比で10倍の性能/ワット向上など）は、AIファクトリーの総所有コスト（TCO）に直接影響します。開発者は、単一のモデル性能だけでなく、メガワットあたりのエージェント数やトークンコストといった新しい指標を考慮した上で、デプロイするモデルやエージェントシステムの設計を行うべきです。特に、GPUのアイドル時間を削減し、Vera CPUの能力を最大限に引き出すことで、実際の「完了した作業量」あたりの電力消費を最適化するアーキテクチャ設計が、大規模なAIサービスの運用において競争優位性をもたらすでしょう。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
