投稿は自らのタイトルに答えるところから始まる。いいえ、すべてのループに人間が必要なわけではなく、そこに人間を置こうとすることこそ、チームが自律的なエンジニアリングへの移行を停滞させる原因だ、と。投稿が描くパターンは、AI エージェントを動かし始めたチームが、安全を期すためにエージェントが行うすべてのことの前に人を置くというものである。これはエージェントがコードを提案するだけだった間はうまくいった。差分のレビューはエンジニアがすでに行っていることだからである。しかし、エージェントが本番環境で行動し、サービスをデプロイし、ワークロードを再起動し、インシデントを解決するようになると、チームの足を引っ張り始める。著者の報告によれば、Port が最近のミートアップでエンジニアリングリーダーに調査したところ、会場の半数が依然としてコードのマージとプルリクエストにしかゲートを設けていないと答えた。投稿はこれを、エージェントが存在する以前から行っていたのと同じレビューであり、プルリクエストが一度も扱ったことのないことをエージェントが行った瞬間に破綻するものだと位置づけている。
投稿による捉え直しは、解決策はゲートを増やすことでも減らすことでもなく、適切な場所に適切なゲートを置くことであり、有用な問いはもはや人間がループの中にいるかどうかではなく、何が人間を呼び込むかである、というものである。この問いに答えるのが 2 種類のガードレールであり、投稿はそれらを判断の仕方において対極にあるものとして提示する。ルールベースのゲート は自分たちが所有する固定のチェックリストであり、リスクベースのゲート はエージェントがその場で下す判断である。
要点
- ここでの ヒューマン・イン・ザ・ループ は、エージェントが作業を行うが、人間の承認なしには不可逆な変更を行えない監督モデルとして定義される。投稿は、この言葉がオンにするだけの単一の設定として扱われがちだが、実際には足元で変化し続けてきた監督のパターンであると論じる。エージェントが変更を提案するだけだった頃はすべての出力をレビューすれば十分だったが、エージェントが実際の行動をとるようになるとそれはスケールしない。
- ある行動にどちらのゲートが合うかのテストは、その条件を書き下せるかどうかである。トリガーが毎回正しいルールとして記述できるならルールベースのゲートを使う — 投稿はこれに時間枠も含まれることを明言しており、ルールは「何を」だけでなく「いつ」も扱う。判断が、きれいな条件に還元できないシグナルを比較衡量することを意味するなら、リスクベースのゲートを使う。
- 境界線は、コンテキストが関係するかどうかではなく、参照か判断かとして示される。ルールも時間や環境といった多くのコンテキストを扱うからである。投稿の具体例では、サービスのティア、金曜日のリリース凍結、データ分類がルールの側に置かれ、依存関係グラフ全体にわたる影響範囲、インシデントが実際にどれほど深刻か、あるデプロイが特定のサービスにとって異常かどうかがリスクの側に置かれる。投稿は、ほとんどのチームが両方を運用することになると見込んでいる。
- ルールベースのゲートを適切に運用するとは、監査でき意図的に変更できるように条件を明示してオーナーを付けること、ハードコードされた推測ではなく実データから条件を読み取るようにすること、そしてゲートが発動するたびに記録することを意味する。
- リスクベースのゲートを適切に運用するとは、行動を「実行させる」から「レビューのためにブロックする」へと切り替えるスコアの明確な閾値を設定し、それを調整していくことを見込むこと、モデルが何をスコアリングし、どのコンテキストを使ったかを含むすべての判断をトレースすること、そしてモデルに確信がないときはより厳格な経路をデフォルトとすることを意味する — それにより、コンテキストが乏しい場合には人間のレビューが生じ、黙って通過することが決してないようにする。
- 投稿を貫く主張は、どちらのゲートもその下にあるコンテキストと同程度にしか信頼できないというものである。チェックすべき実データのないルールは推測にすぎず、乏しいコンテキストに基づくリスクスコアは、まずい推測を数値の陰に隠す。投稿は、この共通の依存関係こそが、この問題をワークフローごとの問題ではなくプラットフォームの問題にしていると捉えている。
背景
これはベンダーの投稿であり、その議論は当該ベンダーの製品へと着地する。投稿が組み立てる論拠は、どちらのゲートにも閾値、トレース、安全なフォールバックが必要であり、どちらも同じライブのコンテキスト上で動作するため、それらをワークフローごとに手作業で組み込むことはもはや選択肢ではなくなり、必要なのは両者がネイティブで組み合わせ可能なステップとなる 1 つのプラットフォームである、というものである。その記述に対して Port が何を提供するかは投稿の結びの節で示されており、ここでは枠組みと製品を切り離すことはできない。投稿はまた、そうなれば統制されたワークフローこそが構築しやすいものになるため、監督はもはや開発速度に対する税ではなくなる、という立場も表明している。