Meta Andromeda次世代広告検索：モデル・システム協調設計によるGPU限界の突破
検索フェーズにおけるLLM型Mixture-of-Experts（MoE）アーキテクチャの導入と性能革新
Metaは、パーソナライズ広告検索エンジンの次世代版「Meta Andromeda」を発表した。従来の広告配信システムでは、膨大な候補（広告プール）から初期スクリーニングを行う「検索（Retrieval）ステージ」と、絞り込まれた少数の候補を高精度にスコアリングする「ランキング（Ranking）ステージ」が分離されていた。計算コストの制約から、ランキングモデルの高精度な表現力を検索ステージへ適用することは長年のボトルネックであったが、新世代のAndromedaではモデル、システム、ハードウェアの協調設計（Co-Design）により、ランキング並みのモデル性能を検索スケールで実現している。
核心となる技術革新の一つが、検索用Mixture-of-Experts（MoE）アーキテクチャの採用である。ユーザーモデリング側では、単一のユーザーダワーから、異種混合のユーザーエキスパートのアンサンブルへと移行。逐次的な広告エンゲージメント、ユーザーコホート表現、LLM由来のセマンティック特徴量、クロスサーフェイスの協調エンゲージメント信号などの高精度シグナルを統合している。候補広告側では、リアルタイムの配信コンテキストを組み込んだジョイントエンコーディングを採用。さらに、インタラクション・オーバーアーチ層では、従来の密なニューラルネットワーク（DNN）からMoEアテンションベースのゲーティングネットワークへと進化させ、候補を最適なユーザーエキスパートに動的ルーティングする。これにより、2024年版のAndromedaと比較して推論時のFLOPsを約300分の一に削減しながら、ランキングレベルのマッチング品質を達成している。
100億ads/secを突破する単一GPUパイプラインとメモリ・ネットワークの最適化
数億から10億を超える広告候補プールを1秒間に処理するためには、計算性能だけでなく、メモリ帯域幅およびネットワーク制約の克服が不可欠であった。1秒間に数十億件もの広告テンソルを処理する環境下では、GPUの複数カーネル間で中間テンソルをHBM（High Bandwidth Memory）に書き戻すオーバーヘッドや、CPUホストとリモートGPUアクセラレータ間を行き交うネットワークトラフィックが致命的なボトルネックとなる。
この課題に対し、Metaは以下の2つのシステムレベルの革新を導入した：
-
Fused Kernel（融合カーネル）の構築: MoEゲーティング構造によるFLOPsの大幅削減を足場とし、埋め込みの収集、ユーザー・広告間インタラクションモデルの実行、スコアリングまでの全プロセスを単一のGPUカーネル内に完全に融合。中間結果をHBMへ書き出さず、GPUレジスタおよびスレッドブロックの共有メモリ上に保持し続けることで、HBMのピーク帯域幅の限界に近い効率を引き出している。
-
Co-Location（コロケーション）戦略: 従来は別々のホストで実行されていたインデックスマッチング（広告主のターゲティングルールの適用）とトップK選択を、スコアリングと同一のGPUボックス上に統合。これによりホスト間のネットワークトラフィックを約100分の1に削減し、システムをネットワーク帯域ネックからGPU演算ネックへと押し戻した。
NVIDIAとの共同最適化により、インタラクションネットワーク（MoEゲーティング）の処理性能は2.4億から10億ads/sec超へと5.3倍に高速化され、GPUのピークHBM帯域の約85%に到達。さらにINT8量子化の適用により、精度を16ビットと同等に維持したまま最大2倍のスループット向上を達成している。インデックスマッチング自体も最適化により100億ads/secを超え、スコアリングネットワークの1桁上のスループット余裕を確保している。
開発者・エンジニア視点での考察
-
メモリーバウンドな深層学習ワークロードにおける「完全融合カーネル（Full Kernel Fusion）」の実装パターン
推論スループットが極限に達した大規模推薦システムでは、演算器のFLOPs数よりも中間テンソルのHBM転送（メモリー帯域）がボトルネックになる。Andromedaのアプローチは、非モデル処理（システムロジックの一部）とモデル処理を単一のGPUカーネルにインライン化し、レジスタと共有メモリ上でデータを完結させる設計思想を示しており、高スループット推論パイプラインを設計する際の標準的なデザインパターンとなり得る。 -
ハードウェア制約を逆用したMoEアーキテクチャの再設計（FLOPs削減と表現力の両立）
「高精度化＝計算コスト増」というトレードオフに対し、MoEの動的ルーティングとハードウェアのTensor Core特性（量子化耐性など）を同時に最適化することで、「複雑なモデルを動かしても実効レイテンシが増えない」状態を作り出している。AIエンジニアは、モデルの数学的表現力だけでなく、ターゲットハードウェアのメモリ・キャッシュ階層を意識したトポロジー共設計を行うべきである。 -
分散から「単一GPU集約型パイプライン」へのパラダイムシフト
マイクロサービスアーキテクチャのように処理を細かく分割し、ネットワーク経由でデータを受け渡すアプローチは、超高スループット領域（10億QPS超）ではネットワーク帯域とシリアライゼーションのオーバーヘッドで破綻する。インデックスマッチングやフィルタリングといったシステムロジックをアクセラレータ側へ大胆に寄せ、コンパクトなペイロードのみで完結させるアーキテクチャの転換は、大規模リアルタイム推論システム全体のスケーラビリティを再定義する示唆に富んでいる。
Source / 元記事
この記事について
この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。
元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。
重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。
