プロンプトルーティング（prompt routing）とは、LLM アプリケーションを構築するためのパターンの一つで、1 つのプロンプトで あらゆる種類のリクエストを扱おうとするのではなく、入力をまず分析し、それから最も適した下流の経路へと振り向けるもので ある。Anthropic は 効果的なエージェントの構築 でこのパターンを単に「ルーティング（routing）」と呼び、入力を 分類して専用の後続タスクへと振り向けるものだと説明している。開発者 phodal による中国語のエージェント構築の概説は、 プロンプトルーティングを、マルチタスク、マルチエージェント、あるいは複雑な AI フローのためのエンジニアリングパターンで あり、タスクを分割し、入力を分析して、最も適したモデルやサブタスク用のプロンプトに割り当てるものだと定義している。 その説明によれば、中核となる考え方は、どの処理経路、プロンプト、ツール、サブエージェントを使うかを入力とその コンテキストから動的に決めることであり、それによって実行が直線的なものではなく条件つきのものになる。
用法
Anthropic がこのパターンを推す根拠は関心の分離である。ルーティングによって各経路により専門化したプロンプトを持たせる ことができ、それがなければ、ある種類の入力に合わせた最適化が他の入力での性能を損ないうる。その例は、カスタマー サービスへのさまざまな種類の問い合わせ — 一般的な質問、返金の依頼、技術サポート — を異なる下流のプロセス、 プロンプト、ツールへと送ること、そして易しい質問やよくある質問はより小さく安価なモデルに、難しい質問や珍しい質問は より高性能なモデルに送ることである。
phodal の例は質問応答システムである。システムと無関係な質問にはサポート対象外であると伝え、基礎的な知識に関する 質問は文書検索と QA モデルへ、複雑な分析的質問はデータ分析ツールとそれに続く要約へと送る。この概説は、このパターンを 支えるフレームワークの機能として LangChain の RouterChain と意味的類似度によるルーティングを挙げ、ルーティングを、複雑な 問題に対する プロンプトチェイニング を可能にするものとして提示している。
適用される場面
Anthropic は 2 つの条件を挙げている。タスクに、別々に扱ったほうがよい明確なカテゴリがあること、そして分類そのものを — LLM によってであれ、より伝統的な分類モデルやアルゴリズムによってであれ — 正確に行えることである。したがって正確な 分類は、このパターンの副産物ではなく前提条件である。phodal の説明は、ルーティングによってシステムが質問の種類ごとに 最も適した処理を選びつつ、モジュール性と拡張性を保てることを付け加えている。
どちらの説明も実務家によるものである。Anthropic の説明はエージェントを構築するチームの間で見てきたと報告するパターンに 基づき、phodal の説明はエージェントの構築を学ぶ開発者向けの研修教材に基づいている。どちらも、ルーティングしない単一の プロンプトとの比較を測定したものは報告していない。
関連用語
- プロンプトチェイニング — タスクを固定されたステップへと分解する、対をなすパターン
- 埋め込みに基づくツールルーティング — プロンプトではなくツールへとルーティングする関連技法
- 拡張 LLM — ルーティングされる各呼び出しがそれであると想定されている構成要素