本論文は、LLM エージェントはソフトウェア開発で高い性能を発揮するものの、長いインタラクションのコンテキストが高い API コストとレイテンシを招くことで足を引っ張られている、という観察から出発する。LongLLMLingua のような既存のコンテキスト圧縮手法は、一般にパープレキシティのような固定の指標に頼っており、コード理解がタスクに固有であるという性質を無視しているため、構文的・論理的な構造をしばしば壊し、重要な実装の詳細を保持できない、と論じている。
これに対して本論文は、コーディングエージェント向けに設計された自己適応型のコンテキスト枝刈りフレームワーク SWE-Pruner を提案する。人間のプログラマーが開発やデバッグの際にソースコードを「選択的に拾い読み(selectively skim)」する様子に着想を得て、SWE-Pruner はタスクを意識した適応的な枝刈りを行う。現在のタスクに応じて、エージェントは何を枝刈りするかを導くヒントとして明示的な目標(論文の例では「エラー処理に注目する」)を立て、0.6B パラメータの軽量なニューラルスキマーが、その目標に基づいて周辺のコンテキストから関連する行を動的に選択するよう訓練されている。
主なポイント
- 著者らによれば、パープレキシティのような固定の指標に頼る既存のコンテキスト圧縮手法は、コードの構文的・論理的な構造をしばしば壊し、重要な実装の詳細を落としてしまう。
- SWE-Pruner では、コーディングエージェントが現在のタスクについて明示的な目標を述べ、それがどのコンテキストを枝刈りするかを導くヒントとして使われる。
- 訓練済みの 0.6B パラメータのニューラルスキマーが、周辺のコンテキストからその目標に関連する行を選択する。
- 論文によれば、4 つのベンチマークと複数のモデルにわたる評価で、SWE-Pruner は SWE-Bench Verified のようなエージェントタスクにおいて 23〜54% のトークン削減を達成し、しかも成功率はむしろ向上した。
- 論文によれば、LongCodeQA のようなシングルターンのタスクでは、性能への影響を最小限に抑えつつ最大 14.84 倍の圧縮に達する。
補足
本論文は 2026 年 1 月 23 日に arXiv に初めて投稿され、2026 年 5 月 7 日に最終改訂された(バージョン 4)。ソフトウェアエンジニアリング(cs.SE)と計算と言語(cs.CL)に分類されており、著者らはコードを公開していると述べている。