ジャギッド・インテリジェンス(jagged intelligence)とは、大規模言語モデルの能力が滑らかに向上するのではなく、ある箇所では突出し、別の箇所では崩れ落ちるという在り方を指す Andrej Karpathy の用語である。彼が最初に挙げる説明は検証可能性である。従来のソフトウェアは仕様化できるものを自動化してきたが、この世代のモデルは検証できるものを自動化する。ラボは検証による報酬を備えた大規模な強化学習環境でモデルを訓練するからである。自動的な成功シグナルがあるタスク — 数学、コード、テスト、ベンチマーク、ゲーム — はリセットでき、繰り返せ、報酬を与えられるため、モデルはそれを練習して急速に上達する一方、その範囲の外にあるものはすべて粗いままにとどまる。彼は、コーディングエージェントが通常のチャットボット利用よりもはるかに優れていると感じられる理由としてこれを挙げる。コーディングはモデルにフィードバックを与える — 通るか落ちるかのテスト、動くかクラッシュするかのプログラム、検査できる diff という形で。
彼の説明によれば、検証可能性だけですべてが説明できるわけではない。能力は、その領域が事前学習、事後学習、合成データ生成、強化学習の過程で重視されたかどうか — つまりラボが何に関心を向けることを選んだか — にも左右される。彼はこの組み合わせを大まかな式として書き表し、能力の突出は、検証可能性に訓練上の注意、データのカバレッジ、経済的価値を掛け合わせたものに伴うとしている。そしてチェスを例に挙げる。モデルのチェスの能力が跳ね上がったとき、それはおそらく汎用的な知能があらゆる場所で滑らかに向上したのではなく、大量のチェスのデータが訓練データの構成に入ったためだろう、と彼は論じる。彼の要約は「検証可能であり、かつラボが関心を持っている(verifiable plus labs care)」である。
用法
彼が引き出す帰結は、フロンティアモデルは取扱説明書なしで届くということである。モデルは事前学習データの構成、強化学習環境、ベンチマークの圧力、プロダクトの優先順位、経済的インセンティブの産物であり、したがってその上に何かを構築する者にとっての実際的な問いは、自分のタスクがモデルのレールの上にあるかどうかである。検証可能でかつ重点的に訓練された領域の内側では、モデルは飛ぶように動くかもしれない。その外側では、驚くほど基本的なところで失敗するかもしれず、彼が挙げる対処は、より良いコンテキスト、ツール、ファインチューニング、独自の評価、あるいは独自の強化学習環境である。彼はこの落差を、非常に大規模なコードベースをリファクタリングしたりゼロデイ脆弱性を見つけたりできるモデルが、洗車場まで 50 メートルの距離なら、洗うはずの車を運転していくのではなく歩いて行くよう勧めてしまう、という例で示している。
創業者に向けては、彼は同じ分析を機会へと転じる。価値があり検証可能でありながら、フロンティアラボによって十分に訓練されていない領域である。モデルが行動を試み、信頼できる報酬を受け取れる領域固有の環境を構築できるなら、ベースモデルがもともと強くない場合でも、ファインチューニングや強化学習によって性能を引き上げられる、と彼は論じる — そして、わかりやすい領域であるコーディングと数学は、すでに重点的に狙われている。彼はまた、ほとんど何でもある程度は検証可能にできる、という但し書きを添えている。文章執筆でさえそうであり(彼の例はモデルの審査員による評議会である)、したがってこの区別は種類の違いではなく難易度の違いである。
ジャギッドであることは、人間を関与させ続けるべきだという彼の主張の根拠でもある。モデルがこのように振る舞う限り、モデルはループの中に人間がいて、それが何をしているかを把握している状態で使うツールとして扱わなければならない、と彼は言う。彼はこれを、別の彼の捉え方 — これらのシステムは衝動や好奇心を持つ動物ではなく、訓練とインセンティブによって形作られた統計的シミュレーションである — と結びつけている。擬人化された期待を持つと、人はジャギッドな心があるところに滑らかな心を期待してしまう、というのがその理由である。