Context as a Tool（CAT）は、ツールとしてのコンテキスト：長期タスクに取り組む SWE エージェントのためのコンテキスト管理 で 提案されたコンテキスト管理のパラダイムであり、コンテキストの維持を、エージェントの意思決定プロセスに組み込まれた 呼び出し可能なツールへと格上げする。CAT は、安定したタスクの意味内容、凝縮された長期記憶、忠実度の高い短期の やり取りから成る構造化されたコンテキストワークスペースを形式化し、エージェントが適切なマイルストーンで過去の軌跡を 能動的に圧縮して、行動に活かせる要約にできるようにする。
用法
この論文は、リポジトリ規模のコードベース上で長期にわたって作業するソフトウェアエンジニアリングエージェントのために、 既存のエージェントの多くが依存しているとする追記専用のコンテキスト維持や受動的にトリガーされる圧縮ヒューリスティクスに 代わるものとして、CAT を提案している。エージェントがこれを使えるよう訓練するため、著者らは軌跡レベルの教師あり学習の フレームワークである CAT-GENERATOR を提案している。これは、完全なインタラクション軌跡にコンテキスト管理アクションを 注入するオフラインのデータ構築パイプラインの上に構築されており、著者らはこれを用いてコンテキストを意識したモデル SWE-Compressor を訓練している。
適用される場面
このパラダイムが対象とするのは長時間にわたるインタラクションであり、著者らによれば、そこでは追記専用のコンテキストと 受動的な圧縮がコンテキストの爆発、意味のドリフト、推論の劣化を招く。このパラダイムは、コンテキスト管理アクションを 取るよう訓練されたエージェントを前提としており、著者らはそれを CAT-GENERATOR によって用意している。その裏付けは 一本の論文による測定結果である。SWE-Bench-Verified において SWE-Compressor は 57.6% の解決率に達し、著者らは これを、限られたコンテキスト予算の下で推論を安定させつつ、ReAct ベースのエージェントや静的な圧縮のベースラインを 大きく上回る結果だと報告している。
関連用語
- コンパクション — 会話の履歴を要約してコンテキストウィンドウ内に収めること
- コンテキストエンジニアリング — エージェントのコンテキストに何を入れるかを管理する、より広い実践