開発レポート

Gemini APIに「ツール検索」、大量のツール定義を必要な分だけ読み込む

Googleは11月19日、Gemini APIにTool Retrievalをプレビュー追加しました。ツールに defer_loading を付けると、モデルは名前と説明だけを見て、必要になった時だけ引数の定義を読み込みます。追加料金はなく、MCPサーバー単位でも使えます。Interactions API限定です。

Googleは2026年11月19日(米国時間)、Gemini APIに「Tool Retrieval」をプレビューとして追加しました。エージェントに数十〜数百のツールを持たせる場合でも、毎回すべての引数定義(スキーマ)をプロンプトに載せる必要がなくなり、モデルが必要と判断したツールの定義だけをその場で読み込みます。社内システムやMCPサーバーを多数つないだエージェントを Gemini で作っている開発者にとっては、入力トークンとツール選択ミスの両方を減らせる可能性がある変更です。

なぜツール定義の「後読み」が必要なのか

関数呼び出し(Function Calling)では、モデルに使わせたいツールの名前・説明・引数の型をリクエストのたびに送ります。ツールが数個なら問題になりませんが、MCP(外部ツールをAIにつなぐ共通規格)のサーバーをいくつも接続すると、定義だけで数万トークンに膨らむことがあります。

Googleはこの問題を「入力トークンを増やし、遅延を加え、候補が増えるほどツール選択の精度を下げる」と説明しています(原文: "It inflates input token counts, adds latency, and lowers tool-selection accuracy as the candidate list grows.")。同じ発想の機能はAnthropicもTool search toolとして提供しており、1リクエストで最大1万個のツールを後読み対象にできます。主要なモデルAPIで、ツールを「全部載せる」から「探して読む」へ移る流れが揃ってきたと言えます。

仕組みと使い方

ドキュメントによると、使い方は2段階です。toolsに{"type": "tool_search"}を加え、後回しにしたいツールにdefer_loading: trueを付けます。

モデルは後読み対象のツールについて名前と説明(またはshort_description)だけを見ます。必要になると名前を指定して検索し、APIがそのスキーマを読み込み、続けて関数呼び出しまで行います。ここまでが1回のリクエストで完結し、応答のstepsにはtool_search_call、tool_search_result、function_callの順で記録されます。アプリ側が実行するのは最後のfunction_callだけです。

MCPサーバーの設定にdefer_loading: trueを付ければ、そのサーバーが公開するツールをまとめて後読みにできます。自前のツール登録簿や権限フィルタで探したい場合は、execution: "client"を指定してアプリ側で検索を実装する方式も選べます。この場合は検索1回ごとに往復が1回増える代わりに、会話の途中で新しいツールを渡せます。

3つの読み込み方式の使い分け
出典: Google AI Studio Tool Retrievalドキュメント(2026年11月19日)

料金と、実装でつまずきやすい点

Tool Retrievalそのものに追加料金はなく、通常のトークン単価で課金されます。後読み対象のツールは名前と短い説明だけが入力トークンに数えられ、スキーマは読み込まれた時点から会話の終わりまで入力として課金されます。一方で、サーバー側の検索は1回ごとに追加のモデル呼び出しを伴い、そのトークンも入力単価で請求されます。Googleも節約幅は「一度も読み込まれないスキーマの量」次第だとして、自社のトラフィックで測るよう勧めています。

ドキュメントには注意点も多く書かれています。

  • Interactions APIのv1betaだけで使え、従来のgenerateContentには非対応
  • 一度読み込んだツールは会話の最後まで残り、外せない
  • 会話履歴を自前で持つ場合、tool_search_callの欠落や署名(signature)の削除は400エラーになる
  • システム指示の中で名指ししているツールを後読みにすると、モデルが検索せずに呼ぼうとして失敗することがある
  • プロンプトが短くなる結果、暗黙のキャッシュが効く最小サイズを下回る場合がある

最後の点は見落としやすく、トークンを減らしたつもりがキャッシュ割引を失って割高になる可能性があります。

日本の読者にとって

対象モデルはGemini 4の各モデル(NeonやHydrogenなど)と、Gemini 3.8 Flash、3.6 Flashです。国内でも、SaaSや社内システムのMCPサーバーを順に足していった結果、ツール定義が肥大化しているエージェントは少なくないと考えられます。日本語のツール説明でも検索精度が保たれるかは発表で触れられていないため、説明文の書き方は自分で検証する必要があります。ドキュメントは、似た名前のツールにはサービス名を接頭辞として付け、short_descriptionの冒頭でもサービス名を書くことを勧めています。

次に何をすればいいか

  • 現在のエージェントで、1リクエストあたりツール定義が何トークンを占めているかをtotal_input_tokensで確認する。20個未満で固定なら、急いで移行する必要はない
  • 毎回のように使う中核のツールは常時読み込みのまま残し、残りだけをdefer_loadingにして、トークン数とtotal_tool_use_tokens、キャッシュの効き方を比べる
  • 履歴を自前で保持している場合は、新しいステップ種別を落とさず保存できるか、SDKの対応状況を先に確認する

出典

関連記事

開発レポートの記事 →