Semantic Governance Policies は、Gemini Enterprise Agent Platform 上のマネージドな制御機能であり、エージェントによるツール実行の手前に自然言語のポリシーエンジンを配置する。Google はこれを LLM ベースのものと説明している。モデルがツール呼び出しを提案した時点で、エンジンはそのツールと提案されたパラメータを、ユーザーのプロンプト、会話履歴、設定されたポリシーに照らして評価し、判定を返す。この制御はエージェント自身のコードの外側で、Agent Gateway を通じて強制される。
構文だけでなく意図を判断するゼロトラスト AI エージェントを構築する では、あらゆる構文上のチェックを通過するにもかかわらずビジネス上の意図に反するリクエストへの答えとして、この機能が位置づけられている。記事の例は、年額 30 を超えるデジタルソフトウェアライセンスはマネージャーの承認なしには返金できないことになっている。記事によれば、リクエストの中に「ソフトウェア」という語が一度も出てこないため、キーワードマッチングや正規表現によるフィルタはこれを見逃し、SQL パーサーにはその商品がデジタルソフトウェアであることを知る術がない。
機能
ポリシーは対象ツールに紐づけられたプレーンテキストの制約として書かれ、記事の言葉を借りれば、ビジネスオーナーがそれを読み、変更できるようになっている。例として示されたポリシーは、開封済みのデジタル商品、ソフトウェアライセンス、または 30 USD を超えるクリアランス品の返金を拒否して人間のマネージャーに回すもので、強制の設定はブロックになっている。エンジンが DENY を返すと、ツールの実行は実行前に抑止され（例では、署名鍵は一度も呼び出されず、台帳にも手が加えられない）、エージェントはその結果をユーザーに説明する。各評価は、ツール、根拠、判定とともに Cloud Logging のイベントストリームに記録される。記事は、拒否の理由を開示しないように設定できることにも触れている。
記事は、Semantic Governance は、エージェントがツールにどのようにアクセスするか ― エージェント内のコードから直接か、API エンドポイントや MCP サーバーを介してリモートでか ― にかかわらず適用されると述べている。
採用とエコシステム
ポリシーはランタイムに動的に評価されるため、記事ではこれを、Agent Anomaly Detection が発見した攻撃に対してループを閉じるために用いている。管理者はフラグが立てられたトレースを Semantic Governance Policies の画面で確認し、そのパターンをカバーする新しい制約を作成する。あるいは自動化されたプロセスが API を通じて制約を作成する。新しいポリシーは、エージェントの変更、再デプロイ、再起動を行わずに、次のツール呼び出しから適用される。記事の修正例は、同じセッション内ですでに返金が承認された注文に対するそれ以降の返金をすべて拒否するものである。
記事はこの機能を、ペイロードをフィルタリングする Model Armor と、時間の経過に伴う振る舞いを監視する異常検知との間に位置づけ、この種の単一ターンの評価だけでは、個々には許可される多数のターンに分割されたエクスプロイトを見抜けないことを指摘している。また、こうしたチェックをプラットフォームに移すことは、その責任をエージェント開発者とは別のプラットフォーム管理者やセキュリティ管理者へと移すことだとも説明している。