このサーベイは、大規模言語モデルに外部ツールを使う能力がどのように与えられてきたかをレビューする ものであり、その整理の軸は明示的に歴史的である。ツール利用技術の静的なスナップショットを示すの ではなく、方法論の進化をたどり、先行サーベイが十分に言語化していないのはプロンプティングから 教師ありツール学習へ、さらに報酬駆動型のポリシー学習へという進展であると論じる。著者らは、 自らの扱う範囲を代表的な先行サーベイと 6 つの次元(時系列的な進化、パラダイムの分類体系、 ツールの網羅範囲、学習データ、評価の状況、未解決の課題)で比較し、自らの貢献をその 6 つすべてを カバーするものとして位置づけている。
3 つのパラダイムは、最適化のシグナルがどこから来るかによって区別される。 プラグアンドプレイとしてのプロンプティングはモデルを凍結したまま、インコンテキストでの制御に よってツール利用を引き出す。サーベイはこれを、推論と行動の交互実行、計画と実行の分離、 プログラム支援型推論に細分する。教師ありツール学習は問題をプロンプトエンジニアリングから データエンジニアリングへと移し、自己教師ありのデータ生成、大規模なインストラクションチューニング、 そしてプロセス指向またはアラインメント重視のチューニングを通じて、ツールの構文と呼び出しロジックを 重みに内在化させる。報酬駆動型ツールポリシー学習はツール利用を環境からのフィードバックに よって最適化される逐次的意思決定問題として扱い、戦略的意思決定の最適化、エンドツーエンドの マルチターンポリシー学習、そして包括的またはマルチモーダルなエージェント型フレームワークに またがる。
評価は、末尾に付け足される節ではなく横断的な次元として扱われる。サーベイはベンチマークを 3 つの レベルに分類し、それらがパラダイムと共進化してきたものとして提示している。すなわち、ツール使用の 正しさ、タスク完了、ツール駆動型インタラクションである。
要点
- 3 つのパラダイムについてのサーベイの中心的な主張は、それらが逐次的に置き換わるものではなく 相補的なものだということであり、本番レベルのシステムは最新のパラダイムに落ち着くのではなく、 3 つすべてを組み合わせることになるだろうと論じている。
- プロンプティングのパラダイムのトレードオフを率直に特徴づけている。柔軟性、解釈可能性、低い デプロイコストがある一方で、モデルがツール利用の振る舞いをパラメータに内在化しないため、 レイテンシとトークンコストが高く、複雑なタスクや長期タスクでは脆い。
- 自己教師ありのデータ生成については、その手法の背後にある基準を明示している。候補となる ツール呼び出しは、その返り値がベースの言語モデリング目的のもとで次トークン予測を改善する 場合にのみ保持される。つまり、呼び出しが有用なのは構文的に妥当だからではなく、次に来るものの 予測を測定可能な形で改善するからである。
- ツール使用の正しさに関するベンチマーク層を 4 つの関心事(関数呼び出しの妥当性、ツールの検索と 選択、ツール利用の判断、合成的な呼び出し)に分け、そもそもツールを使うかどうかを判断することも 正しさの同じく重要な側面であると論じている。現実的なエージェントは、直接回答するか、明確化を 求めるか、回答を控えるかも判断しなければならないからである。
- 関数呼び出しレベルでの合否の集計スコアでは失敗が実際にどこで起きているかが見えなくなると 報告し、意図理解、フォーマット整合、ツール選択のエラーを切り分ける、よりきめ細かな診断 フレームワークを紹介している。
- 報酬駆動型パラダイムの中で、戦略的意思決定の最適化とエンドツーエンドのポリシー学習を区別して いる。前者は、エージェントがいつツールを呼び出し、いつ内部知識に頼るべきかという、より狭い 問いを扱い、有効性と計算コストやレイテンシとのバランスをとる。後者では、初期の誤りが伝播する 長い軌跡にわたるクレジット割り当てが中心的な難題となる。
- エージェントがより豊かな視覚的環境にデプロイされるにつれて、ツール利用の定義そのものが 視覚的知覚、GUI 操作、長期記憶の管理を含むように拡張されていると指摘し、メモリモジュールや ツールセレクタを含むエージェントシステム全体を、共同で更新される単一のポリシーとして扱う フレームワークを取り上げている。
- 5 つの将来の方向性の中で、相互運用プロトコル、とりわけ Model Context Protocol を中心とした標準化が、エージェントを各ツールの具体的な実装から切り離すことで統合問題を二次の 複雑さから線形の複雑さへと変えると論じ、ツールライブラリが静的なリストではなく、動的で プロトコルに準拠したマーケットプレイスになることを見込んでいる。
- 2025 年に、行動のために特化して事前学習された「エージェント型基盤モデル」への転換が起きたと し、これを言語モデルにビジョンエンコーダを継ぎ足す方向から、ネイティブな 視覚・言語・行動(vision-language-action)モデルへの移行として描いている。
- 安全性については、エージェントに重大な結果をもたらす行動を実行する権限が与えられるにつれて、 安全性を副次的な指標から主要な設計制約へと引き上げなければならないと論じ、欺瞞的アラインメント (エージェントがエラーを隠したりツールの使用状況を偽ったりして報酬システムを出し抜くことを 学習すること)を、間接的プロンプトインジェクションと並んで対処すべきリスクとして挙げている。
- 最後の方向性では、ツール利用の未来は完全に自律的なモノリシックなエージェントよりも、人間による 監督と特化した自動化コンポーネントを組み合わせた協調的なワークフローにあるかもしれないと論じ、 この見方のもとではエンドツーエンドの自律性よりもスキルのほうが実用的な抽象化になるとしている。 すなわち、システムは再利用可能な能力を公開し、それらを人間の監督のもとで柔軟に組み合わせる。
補足
サーベイの進化的な枠組みは、その背景の節も兼ねている。概念的な基盤を現代のインストラクション チューニング済みモデル以前の研究にさかのぼらせ、プロンプト駆動のエージェンシーを 2022〜2023 年、 教師ありツール学習への移行を 2023〜2024 年、強化学習によるポリシー最適化の台頭を 2024 年以降に 位置づけている。
このサーベイは、このウィキがすでに扱っているいくつかの主題と関連している。 関数呼び出し と エージェント型ツール利用 は、このサーベイが 概観する実践そのものである。ReAct は、プロンプティングのパラダイムの 典型的な出発点として扱われる、推論と行動を交互に行う制御ループである。そして Berkeley Function Calling Leaderboard(BFCL) は、このサーベイがカタログ化している関数呼び出しの 妥当性のベンチマークの一つである。