NVIDIA Run:aiがオープンソース化、NVIDIA DSX AI Factory Platformの基盤を強化


ADVERTISEMENT

NVIDIA Run:aiのオープンソース化と戦略的意義

NVIDIAは、AIワークロードおよびGPUオーケストレーションプラットフォームであるRun:aiを全面的にオープンソースソフトウェアとして公開しました。この戦略的な動きは、NVIDIA DSX AI Factory Platformを拡張し、AI開発者、研究者、およびエコシステムパートナーが、プロダクショングレードのAIインフラストラクチャをより効率的かつ柔軟に構築・運用するための基盤を提供することを目的としています。Run:aiのオープンソース化により、顧客は差別化されたソリューションを市場に迅速に投入できるようになり、進化するニーズに対応するためのオープンな基盤が確立されます。

このオープンソース化は、AIファクトリーの概念を推進するNVIDIA DSXプラットフォームの中核として位置づけられています。DSXは、グリッド、設備、チップからインフラストラクチャソフトウェア、パートナーテクノロジーに至るまで、AIファクトリーの設計、構築、最適化を網羅する包括的なフレームワークです。 Run:aiの統合により、DSXエコシステムパートナーおよびAIクラウドは、ワークロードスループットを向上させ、GPU利用率を高め、共有AIインフラストラクチャをより効率的に運用できるようになります。

NVIDIA Run:aiプラットフォームの技術詳細と主要コンポーネント

NVIDIA Run:aiプラットフォームは、AIワークロードのライフサイクル全体(開発、トレーニング、推論)を加速するために設計された、KubernetesネイティブなGPUオーケストレーションおよび最適化ツールです。 その主要な機能は、動的なGPU割り当て、ポリシー駆動型のリソースプーリング、高度なAIスケジューリング、そしてGPUフラクショニングにあります。 プラットフォーム全体がオープンソース化され、以下の4つのモジュール型コンポーネントが独立して採用可能です。

  1. KAI Scheduler: KubernetesネイティブのGPU対応スケジューリングエンジンであり、Apache 2.0ライセンスの下でオープンソース化され、CNCF(Cloud Native Computing Foundation)サンドボックスプロジェクトに貢献されました。 これは、ギャングスケジューリング(in-memoryシミュレーション付き)、公平な共有およびクォータ割り当て、トポロジー認識型ビンパッキング、GPU共有(MIG、MPS、タイムシェアリング、HaMi、CUDA 13.4 MPSフラクショニング)、および動的リソース割り当てをサポートします。 既存のKubernetesクラスターにスタンドアロンで展開することも可能です。

  2. GPU Fractioning Operator: 従来の独自実装を置き換え、CUDA 13.4で導入されたCUDAネイティブなGPUフラクショニングをKubernetesに導入します。 CUDAドライバー自体がワークロードごとの厳密なメモリ制限を適用し、このオペレーターはKubernetes統合レイヤーとして機能し、ポッドごとのメトリクスとともにこのネイティブフラクショニングを公開します。 半分のGPU割り当てで、フルGPUスループットの77%を達成し、同時ユーザー容量の86%をサポートすることが示されています。

  3. KAI Resource Management: 組織的なクォータと階層構造(プロジェクト、部門、ノードプール)を管理するためのコンポーネントです。 これにより、複数のチームが1つの共有GPUクラスターを効率的に利用し、リソースの公平な分配と消費ポリシーの適用が可能になります。

  4. Workload Map: PyTorchJobやRayClusterのような多様なKubernetesワークロードタイプを管理するための、一貫したワークロード管理契約を提供するGoライブラリです。

これらのコンポーネントは、GPU利用率を最大化し、AIイノベーションを加速するために連携します。Run:aiは、GPU可用性を10倍、実行可能なワークロード数を20倍、GPU利用率を5倍に向上させる実績を持っています。

NVIDIA DSX AI Factory Platformとの統合とエコシステムへの影響

NVIDIA Run:aiのオープンソース化とNVIDIA DSX AI Factory Platformへの統合は、AIインフラストラクチャの設計、運用、最適化におけるパラダイムシフトを意味します。DSXプラットフォームは、AIファクトリー全体で「トークンあたりのコストを最低限に抑える」ことを目指し、リファレンスデザイン、API、ソフトウェアライブラリ、および技術を結集しています。 Run:aiの追加により、DSXはワークロードおよびGPUオーケストレーションのレイヤーを強化し、GPUリソースの動的かつインテリジェントな管理を通じて、AIトレーニングと推論のスケーラビリティと効率性を劇的に向上させます。

この動きは、より広範なAIエコシステムに大きな影響を与えます。Crusoe、Mirantis、Nebius、OpenNebula、Rafay、Saturn Cloud、Spectro Cloud、vClusterなどのパートナーは、すでにこのオープンなプラットフォームを自社の提供製品に統合しています。 オープンソースであるため、開発者はRun:aiのコードベースに直接アクセスし、特定の要件に合わせてカスタマイズ、拡張、および貢献することができます。これにより、ベンダーロックインのリスクを低減し、透明性を高め、コミュニティ主導のイノベーションを促進します。商業サポートは引き続きNVIDIA Enterprise AI Factoryを通じて提供されるため、企業はエンタープライズレベルの信頼性とサポートを享受しながら、オープンソースの利点を活用できます。

開発者・エンジニア視点での考察

  1. 独立コンポーネントの柔軟な活用: KAI SchedulerやGPU Fractioning Operatorは、Run:aiプラットフォーム全体を導入することなく、既存のKubernetesクラスターに個別のコンポーネントとして統合できます。これにより、開発者は特定のGPUリソース管理ニーズに合わせて、段階的に機能強化を図ることが可能となり、既存のMLOpsパイプラインやインフラストラクチャへの移行コストを最小限に抑えつつ、GPU利用効率の向上を実現できます。

  2. カスタムリソース管理ポリシーの深層カスタマイズ: Run:aiのソースコードが公開されたことで、開発者はGPUリソースの割り当て、共有、スケジューリングといった挙動を制御するポリシーエンジンに直接アクセスできるようになりました。これにより、特定のAIモデルの特性や企業独自のSLA要件、あるいはコスト最適化戦略に合わせて、リソース管理ロジックをきめ細かくカスタマイズし、特定のワークロードで最高のパフォーマンスを引き出すことが可能になります。

  3. DSX AI Factory Platformによる開発ライフサイクルの統合的最適化: Run:aiがNVIDIA DSX AI Factory Platformの一部として提供されることで、GPUリソース管理がAIファクトリー全体の設計、シミュレーション、運用の各フェーズとシームレスに連携します。開発者は、統一されたプラットフォーム上でGPU利用状況の可視化、ボトルネックの特定、そしてリソース配分の最適化をエンドツーエンドで行えるようになり、AIモデルの開発からデプロイまでのライフサイクル全体の効率とスループットが劇的に向上すると期待されます。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT