拡張 LLM とは、ツールなどの拡張機能を備えた大規模言語モデルである。Simon Willison はこの用語をエージェント型システムの構築に関する Anthropic の記事から紹介し、とても気に入っている用語として取り上げている。その理由は、人々が「エージェント」という言葉をまさにこれ、つまりツールを取り付けたモデルに対して使うのを見てきたが、それがどうもしっくりこなかったからだという。したがって彼の説明におけるこの用語の価値は境界を引くことにある。最も単純なケースに独自の名前を与えることで、「エージェント」という語がそれまで覆わずに済むようにするのである。

用法

Willison がこの記事を評価しているのは、そもそも用語を定義している点である。「エージェント」について彼がかねてから抱いている不満は、この言葉には多くの定義がありうるのに、使う人の多くが自分の選んだ定義を誰もが共有していると思い込んでいることであり、彼はこの記事が冒頭からその傾向に逆らっていると評価している。彼の紹介によれば、記事は「エージェント型システム」を上位の用語として扱い、そのうえで、あらかじめ定められたパターンで複数の LLM をまとめてオーケストレーションするシステムである「ワークフロー」と、LLM が自らのプロセスとツールの使い方を動的に方向づける「エージェント」とを区別している。拡張 LLM は、彼が同じ記事からさらに取り上げている用語であり、そのどちらとも異なる種類のものを指す。すなわち、複数の LLM をシステムとして組み合わせたものではなく、ツールなどの拡張機能を備えた単一の LLM である。

この区別が最も意味を持つのは、「エージェント」という言葉が主張されている場面である。記事自身の助言についての Willison の説明も同じ方向を指している。LLM でアプリケーションを構築する際には、可能な限り最も単純な解決策を見つけ、必要なときにだけ複雑さを増すことが推奨され、それはエージェント型システムをまったく構築しないことを意味する場合もある。また、直接の API アクセスと単純なコードを使い尽くす前に、複雑なエージェントフレームワークに投資することは避けるべきだという。最も単純な構成に名前を与えることで、あるシステムがそれにすぎないと言えるようになるのである。

これは Willison 自身の造語ではない。彼は他者の用語を、その記事についてのリンク投稿の中で紹介し支持しているのである。そのためこの情報源から得られる定義も簡潔で、ツールなどの拡張機能を備えた LLM というものにとどまる。彼が紹介している記事はこのページでも直接取り上げており、以下で読んでいく。

一次情報での説明

Willison が紹介している記事は 効果的なエージェントの構築 であり、このページはそれも直接扱っているため、用語を一歩隔てた形だけでなく、それを導入した言葉そのもので読むことができる。

そこでは拡張 LLM は、エージェント型システムの基本的な構成要素として提示されている。つまり、検索、ツール、メモリといった拡張機能で強化されたモデルである。現世代のモデルについて Anthropic が強調するのは、モデルがそれらの機能を通じて動かされるのではなく、それらを能動的に使えるという点である。自ら検索クエリを生成し、適切なツールを選び、どの情報を保持するかを決める。記事の実装上の推奨は 2 つあり、これらの機能を特定のユースケースに合わせて調整すること、そしてモデルにそれらへの簡単でよく文書化されたインターフェースを与えることである。そのインターフェースを提供する方法の 1 つとして Model Context Protocol が挙げられている。

これが数ある選択肢の 1 つではなく構成要素となるのは、記事の構成の中での位置による。記事がこの後に説明するもの、すなわちプロンプトチェイニング、ルーティング、並列化、オーケストレーター・ワーカー、評価者・最適化者、そして自律エージェントはすべて、その時点以降のあらゆる LLM 呼び出しがこれらの拡張機能を利用できるという、明示的に述べられた前提の上に構築されている。したがって拡張 LLM は、アーキテクチャの一覧の中で最も単純な項目なのではなく、一覧の残りを組み立てる単位なのである。

このことは、Willison が重視する境界をより鮮明にもする。Anthropic はワークフローとエージェントをエージェント型システムとしてまとめ、プロセスを誰が方向づけるかによって両者を分けている。ワークフローではあらかじめ定められたコードパスが、エージェントではモデル自身がそれを担う(AI エージェント を参照)。拡張 LLM をその分岐の下に位置するもの、すなわち機能を取り付けた単一の呼び出しであって、まだ何かがオーケストレーションされるシステムではないものとして読むのは、構成要素としてのその位置からこのページが独自に導いた推論である。記事は拡張 LLM を各パターンの前に置いてはいるが、その分岐そのものとの関係には位置づけていない。

関連用語