「Trustworthy AI Software Engineers」は、モナシュ大学の Aldeida Aleti と Rashina Hoda、コロンビア大学の Baishakhi Ray と Simin Chen による 2026 年のビジョンペーパーである。Claude Code、OpenAI Codex、Kiro といった AI コーディングエージェントの急速な普及を受けて、そもそも AI エージェントがソフトウェアエンジニアとみなされるとはどういうことか、そしてそうしたエージェントを信頼に足るものにするのは何かを問うている。論文は、IEEE、ACM、ソフトウェアエンジニアリング知識体系（SWEBoK）による確立されたソフトウェアエンジニアリングの定義に議論の基盤を置いており、これらはこの分野をプログラミングをはるかに超えるものとして特徴づけている。さらに、専門家の実務に関する実証研究から、日々の作業のかなりの部分が、要求の引き出しと交渉、仕様の分析、コードのレビューと保守、ステークホルダーとの調整、設計判断の文書化といったコーディング以外の活動であることが示されていると指摘している。
論文は、Pink らによる信頼と AI ソフトウェア実務者に関する研究から引いた区別に従い、信頼（AI システムに依拠するという人間の判断や傾向）と、信頼に足ること（その依拠を正当化するシステムの特性）を区別している。エージェント型システムは、ソフトウェアエンジニアリングのライフサイクル全体にわたってタスクを計画し、ツールを使い、中間的な判断を下し、人間のチームメイトと協働するため、信頼に足ることは従来のコード生成モデルの場合よりも広く理解されなければならないと論じる。すなわち、出力の品質だけでなく、意思決定の健全性、透明性、アカウンタビリティ、不確実性のもとでの安全な動作、人間の意図やチームの規範との整合という観点からも捉える必要があるという。
要点
- AI エージェントが エージェント型エンジニア と認められるのは、コーディングを超えたソフトウェアエンジニアリングのタスクを扱えること、計画とツール利用を通じてエージェンシーを示せること、人間のワークフローの中で協働できること、人間の価値とアカウンタビリティを尊重できることを満たす場合に限る、という作業定義を提案している。
- Pink らの信頼／信頼に足ることの区別に従い、信頼に足ることを主観的な信頼とは異なるシステムの特性として位置づけ、信頼に足ることのどの次元も、単独で必要かつ十分であるものはないと論じている。
- エージェント型ソフトウェアエンジニアのための 信頼に足ることの次元 を導入しており、それは技術的品質、透明性とアカウンタビリティ、認識論的謙虚さ、社会的・倫理的整合にわたる。
- 証拠中心の検査 を提案している。これは、AI エージェントの生の出力をレビューすること（成果物中心の検査）から、信頼に足ることを示す選択的なシグナルと正当化を評価することへの転換であり、エージェント型システムが生成するコードの量が増えるにつれて人間による網羅的なレビューが実行不可能になることを動機としている。
- 検証と妥当性確認を、プロセスレベルの検証（エージェントの計画とツール利用が適切かどうか）と認識論的な検証（エージェントが自らの不確実性と限界を正確に表明しているかどうか）によって拡張している。
- ランタイム監視としてのコードレビュー を提案し、人間と AI のチームにおけるコードレビューを、デプロイされたコードを暫定的なものとして扱い、AI エージェントが本番環境での振る舞いを監視する継続的な活動として捉え直している。
補足
この論文は、AI 支援型ソフトウェアエンジニアリングにおける信頼を特徴づけた先行研究を土台としている。その中には、コーディングモデルの信頼に足ることの属性として能力（ability）、善意（benevolence）、誠実さ（integrity）を挙げた Khati らの研究も含まれる。ただし、コードを生成・補完するだけでなく、計画し、ツールを使い、中間的な判断を下すエージェント型システムには、従来のコーディングモデルよりも広い、信頼に足ることの枠組みが必要だと論じている。本論文は実証研究を伴わない短いビジョンペーパーとして発表されており（論文自身の Data Availability の記述でも利用可能なデータはないとされている）、最後に、信頼を考慮した開発プラクティス、検証戦略、人間と AI の協働モデルに関する今後の実証的・設計志向の研究を呼びかけている。