このレビューは、LLM エージェントにおける近年の最も重要な進歩はモデルの変化ではなく、その周囲の ランタイムの変化であると論じ、メモリ、スキル、プロトコル、ハーネスという別々の文献がなぜ収束しつつ あるのかを説明する単一の概念を提示する。その概念が 外部化 であり、認知的負担をモデルの内部計算から、 永続的で、検査可能で、再利用可能な外部構造へと段階的に移していくことを指す。
理論的な拠り所は Donald Norman の認知的アーティファクトの議論であり、著者らはそこから、外部の補助は 変わらない内部の能力を単に増幅するのではなく、タスクそのものを変換するという主張を引き出している。 繰り返し用いられる例は Norman によるものである。買い物リストは生物学的な記憶容量を拡張するのではなく、 難しい想起の問題を再認の問題に変換する。地図はナビゲーションを強くするのではなく、隠れた空間的関係を 目に見える構造に変換する。論文はこれを、人間の認知的外部化の流れ — 言語、文字、印刷、デジタル計算 — と、LLM エージェントについて論文がたどる流れとの意図的な対比へと広げている。
レビューの構成は、3 つの外部化の次元と、それらを統合するレイヤーに沿っている。メモリ は時間を またぐ状態を外部化し、想起を再認に変換する。スキル は手続き的な専門知識を外部化し、即興的な生成を 組み合わせに変換する。プロトコル はインタラクションの構造を外部化し、場当たり的な協調を統治された 契約に変換する。ハーネス は 4 つ目の種類の外部化ではなく、3 つがその中で動作し相互作用する ランタイム環境である。
要点
- 論文は近年の歴史を、重み（Weights）、コンテキスト（Context）、ハーネス（Harness）の 3 つのレイヤー にわたる段階的な外向きの移動として捉え、それらが相互排他的ではなく層状であることに注意を払っている。 最もインフラに依存したシステムでも重みは依然として重要だが、各段階は開発者がシステムの可変的な知能を どこに置くか、したがってどこにエンジニアリングの労力を投じるかを変える。
- 重み空間の能力の中心的な限界を、能力の問題ではなくガバナンスの問題として述べている。パラメトリック な知識は選択的に更新し、組み合わせ、統治することが難しく、関連する知識が検査可能なモジュールとして 符号化されるのではなく数十億のパラメータに分散しているため、モデルがなぜある振る舞いをしたのかを 監査することは困難である。
- 補助のないモデルに繰り返し現れる 3 つの不整合を、3 つの外部化の次元に対応づけている。メモリが扱う 継続性 の問題（有限のコンテキストと弱いセッション記憶）、スキルが扱う ばらつき の問題（長い 手続きが一貫して実行されるのではなく毎回導き直される）、プロトコルが扱う 協調 の問題（自由形式の プロンプティングのもとでのツールや協力者との脆いインタラクション）である。
- コンテキスト中心の段階も同じ Norman のレンズで読み解いている。「モデルは事実 X を知っているか」という 難しい問いが、「事実 X がコンテキストに置かれたとき、モデルはそれを使えるか」というより易しい問いに 変換される。そしてこれが、人間の流れにおいて文字に結びつけられる想起から再認への移行を反映していると 指摘している。
- コンテキストウィンドウを拡張しても根底にある緊張は解消されないと論じ、モデルが長い入力にわたって 不均一に注意を向けるという「Lost in the Middle」の知見を引用するとともに、コンテキストは一時的なもの でもあると述べる。状態が他の場所に外部化されない限り、新しいセッションはすべて部分的な記憶喪失の 状態から始まる。
- ハーネスについては、実装上の主張ではなく定義上の主張を行っている。ハーネスは有能なモデルの上に 重ねられる実装上の便宜ではなく、外部化されたモジュールが共同して効果を発揮する 設計された認知環境 である。この説明によれば、エージェンシーはモデル単体に宿るのではなく、モデルと、その認知を行動へと 組織化する環境との結合から生まれる。
- この用語はまだ定着の途上にあると指摘し、自らの特徴づけを閉じた定義ではなく、現在のシステムに繰り返し 現れるパターンの統合として提示している。
- ハーネス設計を、権限（Permission）、制御（Control）、可観測性（Observability）という 3 つの運用面の もとにまとめた 6 つの分析次元に分解している。エージェントループと制御フロー、サンドボックス化と実行の 隔離、人間による監督と承認ゲート、可観測性と構造化されたフィードバック、設定とポリシーの符号化、 コンテキスト予算の管理である。6 つのいずれもそれ自体は外部化の一形態ではなく、3 つのモジュールを まとまりのあるものにする協調のためのインフラである。
- 制御については、終了、再帰、コストの制限は二次的な安全対策ではなく定義上のものだと論じる。それらは 推論が展開される運用上の範囲を定めるものであり、よく調整されたループは、モデルを賢くすることによって ではなく、取りうる実行パスの空間を制限することによってエージェントをより信頼できるものにする。
- サンドボックス化についても同じ論法をとり、実行境界は単なるセキュリティ上の柵ではなく、無関係な状態を 取り除き危険な行動を制限することで動作環境を単純化する 認知的境界 であり、他の形態の外部化と同じ 表現上の機能を果たすと論じる。
- 自律性をエージェントの二値的な性質ではなく、タスクごと、ツールごと、組織のポリシーごとに調整可能な ハーネスの設定可能なパラメータとして扱い、よく見られる 3 つの監督パターンとして、実行前の承認、実行後の レビュー、エスカレーションのトリガーを挙げる。フックシステムは、ライフサイクルイベントに任意の ロジックを結びつけることでこのパターンを一般化するものとされる。
- 可観測性は補助的な便宜ではなく、ハーネスが自らの動作から学ぶための仕組みだと論じる。構造化された トレースがなければ、実行結果をそれを生み出したモジュールへと結びつけるフィードバックループは機能せず、 ハーネスは適応的なシステムではなく静的な足場のままにとどまる。
- 権限とポリシーを 外部化されたガバナンス として位置づける。本来ならプロンプトに埋め込まれるか 事後的なフィルタリングで強制される制約が、代わりにハーネスが実行時に強制する宣言的なルールとなり、 ユーザー、プロジェクト、組織のスコープにわたって階層化される。そのため、同じベースエージェントが、 モデルやそのスキルの成果物を変えることなく、異なるポリシー体制のもとで動作できる。
- コンテキスト予算を、どの単一のモジュールも解決できないハーネスレベルの協調問題として扱う。メモリの 検索、スキルの読み込み、プロトコルのスキーマ、ツールの説明、そしてモデル自身の推論トレースがすべて 同じ有限の割り当てを奪い合い、最適な配分は実行の現在のフェーズに依存するからである。
- 系譜の異なる製品の間で構造的に類似したハーネスが収束していることを分析的に重要なものと読み解き、 それを 6 つの次元が偶発的な実装上の選択ではなく、外部化されたエージェンシーの構造的な要件である ことの証拠としている。
補足
著者らは分散認知・拡張認知の伝統を、そのエンジニアリング上の洞察 — エージェントと環境の境界は実際の 性能に影響を与える設計上の選択である — のために援用しているが、その伝統のより強い存在論的主張には コミットしないと明言している。著者らは自らの焦点を実用的なものと説明し、外部化の価値を、結果として 得られるシステムの信頼性、合成可能性、統治可能性によって測るとしている。
このレビューは、検索拡張生成、ツール学習、エージェントアーキテクチャ、プロトコルの相互運用性に関する 既存のサーベイに対して自らを位置づけ、不足しているのはコンポーネントレベルのサーベイをもう 1 つ増やす ことではなく、これらの発展が外部化の諸形態として なぜ 収束しつつあるのかについての共通の説明だと 論じている。
また、各次元が独立して進化するわけではないことも強調している。メモリの拡張はコンテキスト予算をめぐって スキルの読み込みと競合し、プロトコルの標準化は相互運用性を高める一方で能力のパッケージ化の方法を制約し、 スキルの実行は後にメモリとなるトレースを生み出す。
組織化の概念については 外部化 を、統合するレイヤーについては ハーネスエンジニアリング を参照。