Gemini APIにTool Retrieval登場、必要なツールスキーマだけをオンデマンド読み込み


ADVERTISEMENT

大規模なツール群で生じる「選択肢の肥大化」に対処

Googleは、Gemini APIのInteractions APIでTool Retrievalをプレビュー提供した。エージェントが数十から数百の関数ツールを利用する場合、従来のように毎回すべてのパラメータスキーマをプロンプトへ含めると、入力トークン数とレイテンシが増加し、候補が増えるほどツール選択の精度も低下しうる。Tool Retrievalは、ツール群を常時すべてコンテキストに展開するのではなく、必要になったスキーマだけを取得する仕組みである。

設定は、リクエストにtool_searchを追加し、保留したいツールにdefer_loading: trueを指定する。モデルには遅延対象のツール名と説明が提示される一方、パラメータスキーマは初期コンテキストに含まれない。モデルが必要なツールを名前で要求すると、APIがスキーマを読み込み、その後モデルが関数呼び出しを生成する。この検索・スキーマ取得・関数呼び出しは、サーバー側検索の場合は単一のAPIリクエスト内で進む。

たとえば、注文返金用のissue_refundを遅延対象にすると、モデルはタスクに応じて同関数を検索し、order_idとamountを含むスキーマを取得してから呼び出す。実行時のinteraction.stepsには、tool_search_call、tool_search_result、function_callが順に記録される。開発者は、モデルがどのツールを候補とし、どのスキーマを取得したかを確認できる。関数実行そのものは従来どおりアプリケーション側で行い、結果をfunction_resultとして返す。

サーバー側検索とクライアント側検索を使い分ける

サーバー側のTool Retrievalでは、検索インデックスを構築・ホストする必要がない。既存のツール定義にフラグを加えるだけで利用でき、頻繁に使うツールは初期状態でロードし、利用頻度の低いロングテールのツールを遅延対象にできる。リモートMCPサーバーにも対応し、mcp_serverにdefer_loading: trueを指定すれば、そのサーバーが公開するツールを個別に列挙せず、オンデマンドで読み込める。

一方、独自のツールレジストリ、埋め込みインデックス、ユーザーごとの権限制御を使う場合は、tool_searchに"execution": "client"を指定できる。この方式では、モデルが検索関数を呼び出した後、アプリケーションが検索を実行し、該当する関数スキーマをfunction_resultとして返す。検索のたびに追加のラウンドトリップが発生する代わりに、独自の検索ロジックやアクセス制御を検索処理へ組み込める。また、ツールをあらかじめ宣言せず、会話中にユーザーが連携機能を追加した際に新たなツールを提示することも可能だ。

トークン課金、キャッシュ、対応範囲

Tool Retrieval自体に個別料金はない。入力・出力トークンは呼び出すモデルの標準料金で課金される。tool_searchの有効化には小規模な固定量の入力トークンが加わり、モデルが読み込んだスキーマは、その後の会話で初期宣言したツールスキーマと同様に入力として課金される。したがって、読み込まずに済むスキーマのトークン量が、検索機能の追加コストや実際に読み込むスキーマの量を上回る場合に、トークン削減が成立する。効果はツールライブラリと実トラフィックに依存するため、記事も実際の利用状況で測定するよう促している。

遅延スキーマはプロンプトの先頭部分に置かれず、取得後に会話の後段へ追加される。この構成はプレフィックスキャッシュと併用でき、ターンごとに先頭部分を変えずに保ちやすい。対応範囲はInteractions APIのGemini 3.6以降で、Gemini 4シリーズを含む。記事は具体的な性能ベンチマークや削減率を示していないため、導入効果はスキーマ数、スキーマサイズ、検索頻度、会話長を用いて個別に評価する必要がある。

開発者・エンジニア視点での考察

  1. 遅延対象は利用頻度とスキーマ量で選別する。 全ツールを一律に遅延すると、頻繁に使うツールまで検索対象になり、検索コストや呼び出し経路が増える可能性がある。頻用ツールは初期ロードし、低頻度かつ大きなスキーマを持つツールを遅延対象にする構成を、実トラフィックで比較したい。

  2. ツール名と説明を検索品質の一部として扱う。 遅延対象でも名前と説明はモデルに見えるため、スキーマを隠すだけでは十分ではない。名前・説明が曖昧だと、適切なツールが検索されない可能性がある。tool_search_callとtool_search_resultを観測し、タスクに対する選択の妥当性をテストすることが重要になる。

  3. クライアント検索では権限境界と再現性を設計する。 ユーザー別フィルターや動的な連携追加にはクライアント側検索が適する一方、追加ラウンドトリップが生じる。検索結果に含めるスキーマをユーザー権限に合わせて制御し、検索入力・結果・返却スキーマを記録すれば、アクセス制御の検証と障害調査を行いやすい。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT