NVIDIA BlueField-4がエージェントAIファクトリ向け新スケールイン・ネットワーク基盤を強化
NVIDIA BlueField-4によるScale-Inネットワーク基盤の革新
従来のクラウドインフラは、予測可能で汎用的なワークロードと標準インターフェース向けに設計されていました。しかし、エージェントAIファクトリは、多種多様なユーザー、エージェント、アプリケーション、データソース、ストレージシステムを、マルチテラビット帯域幅の高性能コンピューティングに接続するため、専用のDPU処理がラインレートのネットワーキング、ストレージ、セキュリティに不可欠となっています。NVIDIAは、AIネットワーキングの「第5の柱」として「Scale-In」ネットワークインフラを導入しました。これは、エージェントAIファクトリのセキュリティ、管理、運用を目的としたアクセラレーションを提供します。Scale-Inは、南北ネットワークをAIファクトリ全体にわたる協調的なインフラドメインへと進化させます。
このScale-Inインフラは、NVIDIA BlueField-4 DPUとNVIDIA DOCAソフトウェアによって強化され、NVIDIA Spectrum-X Ethernetを介して接続されます。これにより、AIスタック全体のセキュリティと、アプリケーション、データ、ストレージのトラフィック移動を高速化します。BlueField-4 DPUは、最大800Gb/sのスループットを提供するギガスケールAIファクトリ向けインフラプラットフォームです。 専用のホスト非依存型プロセッシングにより、これらのインフラサービスはホストCPUからオフロードされ、AIコンピューティングのスケールアップに伴うセキュリティ、データアクセス、および運用上のボトルネックを防ぎます。 結果として、需要の増加に応じてAIサービスとデータへ一貫してアクセスできる、より安全で効率的な共有AIインフラが実現されます。
エージェントAIファクトリ向け高性能・高効率アーキテクチャ
エージェントAIのワークロードは、単一のリクエストが多数のモデル呼び出し、ツール使用、メモリ検索、ポリシーチェック、ストレージアクセス、ネットワーク転送を引き起こすという点で、従来のAIワークロードとは根本的に異なります。これにより、GPUやCPUの生産性を維持するために、データを高速に移動、保護、検索、再利用する能力がインフラに求められます。 NVIDIA BlueField-4は、この課題に対処するために、強力なコンピューティングとネットワーキング、データストレージ、サイバーセキュリティのためのアクセラレーションを統合しています。
具体的には、BlueField-4 DPUはNVIDIA Grace CPUとNVIDIA ConnectX-9ネットワーキングを組み合わせて、インフラサービスをオフロード、高速化、分離し、AIインフラの高性能接続性を提供します。 また、NVIDIA Vera CPUを搭載したBlueField-4 STXストレージプロセッサは、AIネイティブストレージプラットフォームに特化して設計されており、AIネイティブデータ移動を高速化し、インシリコンセキュリティを介してスループット、効率性、スケーラビリティを向上させます。 Vera CPUは、x86プロセッサを上回り、マルチステージ圧縮および暗号化パイプラインで最大3.21倍の高いスループットを実現し、AIネイティブストレージがエージェントワークロードに追いつくことを支援します。
さらに、NVIDIA CMX（Inference Context Memory Storage Platform）は、BlueField-4によって駆動される最適化されたコンテキストメモリ層であり、GPU利用率を高めるために低遅延で再利用可能な推論コンテキストを保持します。 このプラットフォームは、従来のストレージと比較して、トークン/秒（TPS）を最大5倍、電力効率を最大5倍向上させることができ、長コンテキスト処理のエージェントAIシステム向けに、高速な長期・短期メモリを提供します。 CMXは、標準のNVMeおよびNVMe-oFトランスポートを活用しながら、KVキャッシュに特化した性能を提供し、BlueField-4がKV I/Oおよびコントロールプレーン操作を高速化することで、ホストCPUへの依存を低減します。
多層防御とゼロトラストを実現するセキュリティモデル
エージェントAIファクトリにおけるセキュリティは、その複雑さと扱うデータの機密性から非常に重要です。BlueField-4は、Advanced Secure Trusted Resource Architecture (ASTRA) を導入し、選択されたNVIDIA RubinプラットフォームにおいてConnectX-9 SuperNICカードとの連携によりセキュリティと管理性を拡張します。 ASTRAは、ゼロトラストなテナント分離と完全なソフトウェア定義型インフラ制御により、セキュアなベアメタルコンピューティングインスタンスを可能にします。
NVIDIA DOCAの新しい機能は、ゼロトラストファイルアクセス、1,000倍速い脅威検出、および800ギガビット/秒（Gb/s）のネットワーク強制をエンタープライズエージェントAIにもたらします。 BlueField-4は、GPUコンピュートトレイ内のインフラプロセッサとして機能し、フロントエンド（南北）ネットワーキング、ホストCPUオフロード、セキュアなデータアクセス、管理、可観測性、インフラ分離をサポートします。 これらのサービスをオフロードし分離することで、BlueFieldは、ホストCPUのオーバーヘッド、可変的なアクセス制御、または管理トラフィックによってGPUコンピューティングがボトルネックになるのを防ぎます。 ハードウェアアクセラレートされたKVキャッシュ配置は、メタデータオーバーヘッドを排除し、データ移動を削減し、GPUノードからのセキュアで隔離されたアクセスを保証します。
開発者・エンジニア視点での考察
-
プログラマブルなインフラサービスによるAIワークロードの最適化: NVIDIA DOCAフレームワークは、BlueField-4の機能を活用して、ネットワーキング、ストレージ、セキュリティ、テレメトリ、ライフサイクル管理などのインフラサービスをプログラマブルにします。これにより、開発者は、エージェントAIの推論パイプラインにインフラサービスを緊密に統合し、ホストCPUへの依存を減らし、GPUリソースを最大限に活用するためのカスタムマイクロサービスを効率的に構築・デプロイできるようになります。
-
マルチテナントAI環境におけるセキュリティとリソース分離の強化: BlueField-4のAdvanced Secure Trusted Resource Architecture (ASTRA) とハードウェアベースのテナント分離機能は、共有AIインフラストラクチャにおけるセキュリティとプライバシーの課題に対する強力な解決策を提供します。これにより、AIサービスプロバイダーや大企業は、複数のAIエージェントやアプリケーションが同じ物理リソースを共有する環境で、厳格なデータ隔離とゼロトラスト原則を効率的に実装し、規制要件を満たすことが可能になります。
-
コンテキストメモリ最適化による推論性能の飛躍的向上: NVIDIA CMXとBlueField-4の組み合わせは、エージェントAIにおける長コンテキスト処理とKVキャッシュ管理のボトルネックを解消します。開発者は、低遅延で高スループットなコンテキストメモリを利用することで、より複雑なエージェントワークフローやマルチターン対話システムにおいて、リアルタイムに近い応答性と大幅なトークン/秒の向上を実現できます。これは、特に大規模言語モデル（LLM）を用いたエージェントのパフォーマンスとコスト効率に大きな影響を与えるでしょう。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
