NVIDIA GB200 NVL72におけるGPU加速Prestoによる低遅延分析ワークロードの劇的進化


ADVERTISEMENT

GPU加速Presto: VeloxとcuDFによるアーキテクチャ革新

データ分析ワークロードの高速化は、現代のデータ駆動型ビジネスにおいて不可欠です。この課題に対し、NVIDIAはPresto C++(別名Presto Native)をNVIDIA GPUで加速する革新的なアプローチを提示しています。Presto C++は、Facebookによって開発されたオープンソースのデータ処理エンジンであるVelox実行エンジンを基盤としており、これにより高度な拡張性が実現されています。

GPU加速の核心は、NVIDIAのRAPIDSエコシステムの一部であるcuDFライブラリをVeloxに統合することにあります。これにより、テーブルスキャン、フィルタリング、プロジェクション、結合、集計といったデータフレーム操作が、CPUではなくGPU上で直接実行できるようになります。この統合は、GPUの高いメモリ帯域幅と並列処理能力を最大限に活用し、分析クエリのボトルネックを解消します。

GPU加速Prestoの設計において、以下の3つの主要な原則が採用されています。

  1. CPU-GPUデータ移動の最小化: データは、CPUのステージングを介さずに、ストレージから直接GPUメモリに読み込まれることが性能にとって不可欠です。KvikIOとGPFS/GPU Direct Storage (GDS) の利用により、CPUをバイパスしたストレージ-デバイス間転送が最適化されています。

  2. GPUメモリ内でのデータ保持: クエリ実行全体を通して、演算子境界を越えてもデータがGPUメモリ内に留まるべきであるとされています。

  3. GPUネイティブなノード間通信: 分散クエリにおいては、データ交換がCPUメモリを介さずにGPU間で直接行われる必要があります。これを実現するため、UCX (Unified Communication X) フレームワークを基盤とした新しいUcxExchangeプロトコルが開発されました。このプロトコルは、ノード内通信にはNVLinkを、ノード間通信にはRDMAを活用し、CPU媒介によるデータシャッフルというボトルネックを排除します。

これらのアーキテクチャ革新により、既存のPrestoデプロイメントが新たなシステムに移行することなくGPU加速の恩恵を受けることが可能になります。

NVIDIA GB200 NVL72: エクサスケール時代のデータ分析基盤

NVIDIA GB200 NVL72は、低遅延分析ワークロードを次のレベルに引き上げるために設計された、革新的なラック規模システムです。このシステムは、36基のGrace CPUと72基のBlackwell GPUを統合した液冷式デザインを特徴としています。

GB200 NVL72の最も顕著な特徴は、72基のGPUがNVLinkによって相互接続され、あたかも単一の巨大なGPUとして機能する72-GPU NVLinkドメインを形成することです。この大規模なNVLinkドメインは、NVLink Switch Systemを介して130テラバイト/秒 (TB/s) という驚異的な低遅延GPU通信帯域幅を提供します。これは、従来のシステムが抱えていた通信ボトルネックを根本的に解消し、エクサスケールコンピューティングの実現を可能にします。

システムの中核を成すのは、2基の高性能NVIDIA Blackwell Tensor Core GPUと1基のNVIDIA Grace CPUがNVLink-C2Cインターコネクトによって結合されたGB200 Grace Blackwell Superchipです。Blackwellアーキテクチャに組み込まれたDecompression Engineは、データベースクエリや複雑なデータ処理タスクを高速化する役割を担い、特に大規模な圧縮データストアに対するクエリやリアルタイムでの大量データ変換に威力を発揮します。現代のGPUが提供する非常に高いメモリ帯域幅は、CPUと比較して一桁以上も大きく、これが分析ワークロードにおけるGPUの性能向上の主要な要因となっています。

パフォーマンスベンチマークと実世界への影響

NVIDIA GB200 NVL72上で動作するGPU加速Prestoは、分析ワークロードにおいて劇的なパフォーマンス向上を示しています。公開されたベンチマークでは、単一ノードのPresto C++(GPU加速オペレーター搭載)が、TPC-HスタイルのベンチマークをハイエンドCPUと比較して約12倍速い約100秒で完了させることが報告されています。さらに、UCX/NVLink交換を利用したマルチノードPrestoは、6倍以上の高速化を達成しています。

全体的なクエリコストに関しても、標準的なベンチマーク測定において、CPU専用のPrestoと比較して最大で6倍のコスト効率の向上を実現しています。特に、データ交換処理が多い特定のクエリ、例えばTPC-H Q9のようなクエリでは、最大20倍もの性能向上が見られました。GPUメモリ内にデータが完全に保持される場合、GPU対応の交換プロトコルは標準のPresto交換プロトコルと比較して、特定の交換集中型クエリで20倍の性能向上を記録しています。

NVIDIA GB200 NVL72自体も、CPUと比較して18倍高速なデータ処理能力を提供することが示されています。この技術は、Prestoだけでなく、cuDF上に構築されたGPUネイティブSQLエンジンであるSiriusがClickBenchベンチマークで最高スコアを記録し、CPUベースの競合と比較して少なくとも7.2倍優れたコスト効率を示した事例や、cuDF-PolarsエンジンがPDSベンチマークで3 TBのデータセットに対して20倍以上の高速化を達成した事例など、広範なGPU加速のトレンドの一部として位置づけられます。

これらの結果は、GPU加速Prestoが、金融、ヘルスケア、小売など、リアルタイムに近いデータ分析が求められる産業において、意思決定の迅速化と運用効率の向上に大きく貢献する可能性を示唆しています。既存のPrestoデプロイメントがシステム全体の移行なしにGPU加速を導入できるという点は、採用障壁を大幅に低減し、より多くの企業がこの先進技術の恩恵を受けられる道を開きます。

開発者・エンジニア視点での考察

  1. データ局所性と転送の最適化の重要性: GPU加速の真価を引き出すためには、CPU-GPU間のデータ移動を最小限に抑え、GPUメモリ内でのデータ保持を徹底し、さらにはノード間の通信もGPUネイティブで行うという、徹底したデータパス最適化が不可欠であることが本事例から明確に示されています。既存のデータパイプラインをGPU化する際には、単に特定の演算をGPUにオフロードするだけでなく、ストレージからのデータ取り込みから最終結果の生成に至るデータライフサイクル全体を見直し、GPUメモリを「ファーストクラス市民」として扱うアーキテクチャ設計が求められます。

  2. Veloxのような拡張可能な実行エンジンの価値: Presto C++がVeloxを基盤としていることで、cuDFやUCXといったGPU向けライブラリをプラグインとして柔軟に統合できることが、今回のGPU加速成功の鍵となっています。これは、将来的に登場する可能性のある新たなハードウェアアクセラレータや最適化技術を既存のデータ処理システムに効率的に組み込む上で、モジュール化され、オープンソースで開発が進む実行エンジンがいかに重要であるかを強調しています。開発者は、単一の特定のハードウェアに依存しない、抽象化された実行エンジン層への投資を検討すべきです。

  3. BlackwellアーキテクチャとNVL72のスケールメリットの活用: NVIDIA GB200 NVL72の液冷式ラック規模設計と、広範なNVLinkドメインが実現する130 TB/sのGPU間通信帯域幅は、極めて大規模なデータセットに対する複雑な分析ワークロードにおいて、従来の分散システムが抱える通信ボトルネックを根本的に解消する可能性を秘めています。特に、リアルタイム分析やインタラクティブなデータ探索が求められるAI/ML前処理や特徴量エンジニアリングにおいて、この「単一巨大GPU」としての振る舞いは、これまでの分散コンピューティングの常識を覆す新たな最適化戦略を生み出すでしょう。開発者は、データ分割や通信パターンに関する従来の仮定を見直し、NVL72のようなシステムが提供する超広帯域通信を前提とした新しいアルゴリズムやデータ構造を検討する価値があります。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT