ツール呼び出しのオフロードとは、大きなツール出力がエージェントのコンテキストウィンドウに及ぼす影響を抑えるためのハーネスの手法である。ツールの出力が閾値のトークン数を超えた場合、ハーネスはその出力の先頭と末尾のトークンだけをコンテキストに残し、出力全体をファイルシステムにオフロードして、必要であればモデルが引き続きアクセスできるようにする。LangChain の エージェントハーネスの解剖学 は、これを、有用な情報をもたらさないままノイズとしてコンテキストウィンドウを散らかす出力の影響を減らす方法として説明している。
用法
この用語は ハーネスエンジニアリング において、ハーネスが コンテキストロット（コンテキストが埋まるにつれてモデルの推論とタスク完遂の能力が劣化すること）に対して適用する戦略の 1 つとして用いられる。同じ記事はこれを、ウィンドウがほぼ満杯になったときに既存のコンテキストを要約してオフロードする コンパクション、そして 段階的開示（Progressive Disclosure） を用いて開始時にすべてのツールを読み込むことを避ける Skills と並べて扱っている。この手法はエージェントが読み取れるファイルシステムを前提としており、同記事はファイルシステムを最も基礎的なハーネスのプリミティブとして扱っている。