この記事は新しい提案ではなく、立場の変更である。著者はここ 2 年ほど、意味のあるコミュニケーションに「エージェント」という語を使うことを避けてきた。誰もがこの語を使いながら、それぞれ異なるメンタルモデルを抱いていたからである。この記事が記録しているのは、自分がこの語を定義したり、あきれてみせたり、皮肉を込めた引用符で囲んだりすることなく、会話の中で使い始めていたことに気づいたという点である。彼が落ち着いた定義、すなわち LLM エージェントとは目標を達成するためにループの中でツールを実行するものである、という定義は、AI エージェントで独立したテーマとして扱われている。
これを採用する論拠は、エージェントについてではなく専門用語についてのものである。記事は、用語が有用なのは双方がその定義を共有している場合に限られ、争いのある用語はむしろ明確さを損なうと主張する。2 人の人間が、それぞれ確信を持って異なる概念について会話を費やしてしまいうるからである。記事はこれを古くからの問題と位置づけ、「エージェントとは何か」という問いは、主流の AI にとっての「知能とは何か」という問いと同じように、エージェントベースのコンピューティングのコミュニティを困惑させるという Carl Hewitt の以前の発言を挙げている。
要点
- 採用された定義は「LLM エージェントとは、目標を達成するためにループの中でツールを実行するものである」であり、「目標を達成するために」は、停止条件を与えて無限ループを排除するためにあえて加えられている。
- 「ループの中でツールを」の部分は、しばらく前から広く使われており、とりわけ Anthropic が採用していたものだと記事は述べている。記事は、この定式化についての著者自身の以前の文章にリンクしている。
- 記事は、目標をユーザーが設定することを要件とすることを意図的に避けている。別の LLM が目標を設定するサブエージェントのパターンがすでに存在するからである。
- メモリを別途定義に含める必要はないと論じられている。ツール呼び出しはモデルとの会話の中に蓄積され、それが現在の目標に必要な短期記憶を提供する。長期記憶は追加のツール群として実装するのが最善である。
- 記事は「人間のスタッフの代替としてのエージェント」を最も好ましくない定義として挙げ、そのカテゴリーは依然として SF の領域にとどまると論じる。責任を負い、失敗から学ぶという説明責任こそが、人間のスタッフに固有のものとして残っているからである。
- 人間にはエージェンシーもあり、自ら目標を立ててそれに基づいて行動するが、AI エージェントはその名前にもかかわらずそれができない、と記事は指摘している。
- 定義の混乱の最大の要因として OpenAI が名指しされており、互いに相容れない 3 つの用法が併存している。CEO の言う「あなたの代わりに独立して仕事をこなせる AI システム」、ブラウザ自動化システムである「ChatGPT agent」というプロダクト機能、そしてループの中のツールという考え方に合致する Agents SDK である。
- 記事が掲げる運用ルールは非対称である。技術的な実装者が「エージェント」と言うときはループの中のツールという意味だと想定するが、分野の外の人と話すときはどの定義を使っているのかを明確にする。
補足
記事は、著者がかつて自身のサイトのタグの下に定義を集めていたことに触れている。その中には Twitter で 211 件の定義をクラウドソーシングし、モデルを使ってそれらを分類したことも含まれる。また、正規分布の「IQ ベルカーブ」画像のミームを再掲しており、その両端にはどちらも「目標を持ってループする LLM」と書かれている。彼はこれを、この問いに対する自身の変遷を表すものとして示している。
著者はまた、説明責任の論点を要約するものとして、「コンピュータは決して責任を問われることがない。ゆえにコンピュータが経営上の意思決定をしてはならない」という格言を引用している。