信頼に足ることの次元とは、信頼に足る AI ソフトウェアエンジニア で提案された、エージェント型エンジニア を頼りにできるかどうかを共同で決定すると同論文が論じる一連の性質であり、技術的品質、透明性と説明責任、認識論的謙虚さ、社会的・倫理的整合性の 4 つの領域にまとめられている。同論文は、信頼に足るための必要条件であり十分条件でもあるような単一の次元は存在しない——どれか 1 つの次元だけでシステムが信頼に足るものになったり、足らないものになったりすることはない——と論じ、信頼に足ることはむしろ、所与の状況においてそのシステムに依拠することを全体として正当化する次元の組み合わせから生じるとしている。

用法

技術的品質は、正確性(出力が機能要件を満たすかどうか)と信頼性(許容できる結果を長期にわたって一貫して提供すること)に加え、性能、無効な入力やストレスのかかる条件に対する堅牢性、悪用や脆弱性に対するセキュリティ、そして開発者の時間、計算資源、環境への影響にわたるコストを対象とする。透明性と説明責任は、意思決定がどのように、なぜ行われるのかを利害関係者が理解できるかどうか、出力を入力やプロセスに結びつけるトレーサビリティ、検証を支える監査可能性と再現性、そして行動や意思決定を異なる相手に対して正当化する説明責任を対象とする。認識論的謙虚さは、エージェントが不確実性を伝え、自らの限界を認め、潜在的なバイアスを自覚し続ける能力に関わるものであり、同論文はこれが、複雑な状況やリスクの高い状況における過信、悪用、見当違いの信頼を防ぐと論じている。社会的・倫理的整合性は、公平性、バイアスの緩和、プライバシー保護、規制への準拠、安全性、持続可能性に加え、エージェントが人間のチームやより広い社会技術的文脈にどのように組み込まれるかを対象とする。

同論文は、これらの次元がシステム、モデル、出力という異なるレベルに適用され、異なる利害関係者(開発者、組織、社会)にとって短期・長期の両方の時間軸で重要になること、そしてこれらが信頼に足る AI に関する先行研究や SWEBoK のようなソフトウェアエンジニアリングの品質モデルに根ざし、それらを拡張したものであることを述べている。また、信頼に足ることを判定する自動化されたオラクルに関する新たな研究にも触れている。この研究は、堅牢性、公平性、セキュリティといった性質のチェックを自動生成し、システムのうちより詳しく検査すべき側面へと開発者を導くことが可能かもしれないことを示唆しているが、信頼に足る AI ソフトウェアエンジニア 自体はそうした手法を開発していない。

関連用語

信頼に足る AI ソフトウェアエンジニア、エージェント型エンジニア、証拠中心の検査