Gemini APIにTool Retrieval登場、遅延ツール定義を1件約26トークンに圧縮


ADVERTISEMENT

Tool Retrievalの仕組み:全スキーマ常時送信からオンデマンド取得へ

GoogleはGemini APIで「Tool Retrieval」をプレビュー公開した。エージェントが多数の関数やMCPツールを利用する際、全ツールのパラメータスキーマを毎回プロンプトに含めるのではなく、各ツールの名前と短い説明だけを提示し、必要になった定義を後から取得する仕組みだ。対象はInteractions APIで、v1betaが必要。従来のgenerateContent APIでは利用できない。

導入には、リクエストのtools配列にtool_searchを1つ追加し、遅延対象の関数またはMCPサーバーにdefer_loading: trueを設定する。各遅延ツールは、名前とshort_description、または短い説明文の先頭文を含む1行としてモデルに提示される。パラメータスキーマは初期コンテキストから外れる一方、頻繁に使うツールはあらかじめロードしておける。

サーバー側検索では、モデルが必要な関数名を指定してtool_search_callを出し、APIがスキーマを含むtool_search_resultを返す。その後は通常のfunction_callと、開発者側での実行・function_result返却に続く。Googleの例では、破損注文の返金処理に対し、モデルがissue_refundの定義を取得してから、注文IDと金額を渡す。検索・定義取得・関数呼び出しは同一リクエスト内の処理として記録され、interaction.stepsで確認できる。

トークン削減の条件と、見落とせない検索コスト

Googleの初期テストでは、遅延ツールの一覧行は1件あたり約26トークン。記事の試算では、100件なら各リクエストに約2,600トークンが加わる。ただし、全スキーマを常時送信する方式と比べてどれだけ節約できるかは、スキーマの大きさと実際の利用頻度に左右される。Googleは平均スキーマサイズや削減率を公開していない。

また、Tool Retrieval自体に別料金はないが、検索処理も無償ではない。サーバー側検索では、検索のたびに会話コンテキスト全体とロード済みスキーマを扱う追加のモデル処理が発生し、そのトークンは入力料金で請求される。検索が複数回なら、その分の処理も重なる。記事によれば、この使用量はtotal_tool_use_tokensとして報告される。さらに、ロードしたスキーマは会話中にアンロードできず、その後の会話でも入力トークンとして課金される。

一方、スキーマを会話の後半で追加する設計により、冒頭部分のプロンプトを保ち、キャッシュされたプレフィックスを維持できるとGoogleは説明する。最終的な費用対効果は、検索頻度、会話コンテキストの長さ、利用されるツールの割合によって変わるため、実トラフィックで測定する必要がある。

検索モード、制約、対応モデルの検証

企業独自のツールレジストリ、埋め込みインデックス、ユーザー別権限フィルターを使う場合は、execution: "client"を指定して検索をアプリケーション側に委ねられる。モデルは検索関数を通常の関数呼び出しとして実行し、アプリケーションが該当するツール定義を返す。この方式では、検索ごとにAPIとの追加ラウンドトリップが必要になる。サーバー側方式とクライアント側方式は、同一リクエスト内で併用できない。

MCPサーバーにdefer_loading: trueを設定すると、そのサーバーが公開するツールをまとめて遅延対象にできる。個々の関数を列挙せず、大規模な接続先を扱える点は、数十から数百の機能を持つエージェントに有用だ。ただし、リクエスト間でツール定義は引き継がれないため、previous_interaction_idを使う場合も、tools配列全体を毎回送る必要がある。

対応モデルについては、ブログの「Gemini 3.6以降、すべてのGemini 4モデル」という説明と、文書の対応一覧に差がある。文書が列挙するのはgemini-4-hydrogen、gemini-4-argon、gemini-3.8-flash、gemini-3.6-flashで、それ以外はdefer_loading設定時に400エラーになるとされる。利用前に実際のAPI仕様を確認すべきだ。なお、ドキュメントには、システム指示や他ツールの出力で名前を明示するツールは遅延対象にしないこと、検索が該当ツールを見つけられない場合に構造化エラーではなくテキスト応答になる場合があることなども記されている。

開発者・エンジニア視点での考察

  1. 平均トークン数だけでなく、利用分布を使って損益を評価する。 ツール数、各スキーマのトークン量、検索頻度、会話の長さ、ロード後の利用回数を記録し、従来方式とTool Retrievalの総入力トークンを比較する。検索パスの追加処理も計測対象に含め、未使用スキーマを除いた節約分だけで判断しない。

  2. ツール説明と権限設計を検索品質の一部として扱う。 遅延ツールは名前と短い説明を手掛かりに選ばれるため、説明は機能、適用条件、主要な入力を端的に示す。特に広告運用など誤操作の影響が大きい用途では、検索ミス時のテキスト応答、名前がプロンプトに現れるツールの扱い、ユーザー別アクセス制御をテストケースに含める。

  3. 段階的ロードと観測性を運用設計に組み込む。 高頻度で使うツールは初期ロードし、利用頻度の低いロングテールを遅延させる構成を検証する。interaction.stepsとtotal_tool_use_tokensを追跡すれば、どのツールが候補になり、検索が何回発生し、追加コストがどこで生じたかを分析できる。プレビュー中はモデル対応状況やAPI仕様も定期的に再確認する。

Source / 元記事

この記事について

著者
AIBloom AI編集部
初回公開
最終更新

この記事は、公開されているニュース、論文、公式発表、RSSフィードなどをもとに、AIが要約・補足調査・考察を行って作成しています。

元記事の完全な翻訳・逐語的な要約ではなく、AIによる背景説明や開発者向けの考察を含みます。

重要な技術仕様・価格・提供状況などは、必ず元記事または公式情報をご確認ください。

About AIBloom

ADVERTISEMENT