Trusted Execution Environment（TEE）とは、機密性の高いコードをマシンの保護された領域で実行できるようにする、ハードウェアに裏付けられた隔離機構である。TEE は、その内部のデータの機密性を保つことに加えて、リモートアテステーションを支えることができる。すなわち、ハードウェアによって強制される隔離環境——エンクレーブ——の中でコードを実行し、実行された正確なコードと構成を記述する暗号学的に署名された文書を生成する。これにより、遠隔の当事者はマシンを直接検査できなくても、プログラムが改変された形ではなく想定どおりに実行されていると納得することができる。プログラムがロードされると、TEE はエンクレーブ測定値——プログラムのバイナリから導かれるハッシュ——を記録する。これが後に、どのコードが実行されたのかを検証者に対して正確に特定するものとなる。
用法
TEE は AI 以外の分野ですでに広く使われている。モバイル端末は生体認証や暗号鍵の保護に TEE を用いており、クラウドプロバイダーは顧客のワークロードを保護するために、機密コンピューティングという名称で TEE を提供している。AI の分野では、その機密性という性質がマルチパーティ学習や連合学習、そして機密性を保ったモデル推論に応用され、入力、学習データ、モデルの重みを秘匿するために使われてきた。これとは別の研究の流れは、完全性という性質のほうに依拠しており、モデルの性能、公平性、安全性の指標を暗号学的に証明する、検証可能で偽造不可能なモデルプロパティカードを開発している。これはゼロ知識証明に代わる、計算効率の高い手段として提示されている。
エージェントシステムにおいては、同じ完全性という性質こそが Proof-of-Guardrail の土台となっている。ガードレールを含むラッパープログラムがエンクレーブにロードされて測定され、開発者のエージェントはその後で秘密入力として与えられる。そして得られたアテステーションによって、どのユーザーでも、どのガードレールのコードが実行されたかを確認できる。TEE をこのように使うことは、プラットフォームのベンダーを信頼することを意味する。AI エージェントにおける Proof-of-Guardrail と、そこから何を信頼すべきか（すべきでないか） で報告されている実装では AWS Nitro Enclaves が使われており、著者らは、プロバイダーのハイパーバイザーがコードを正しく測定し、TEE の秘密鍵を保護することを信頼していると述べている。隔離には実用上のコストもある。エンクレーブは、自らが実行するランタイム全体を、カーネルや依存関係も含めてメモリ上に保持しなければならないからである。
関連用語
リモートアテステーション、Proof-of-Guardrail、サンドボックス化、AI エージェントにおける Proof-of-Guardrail と、そこから何を信頼すべきか（すべきでないか）