Googleは2026年11月12日、AIエージェントの操作履歴から不審な行動を検知する「Agent Anomaly Detection」の検証結果を発表しました。外部で作られた5種類のベンチマークを使い、合計1,774件のセッションを評価しています。Googleによると、AIエージェントが実際に有害な指示に従ったケースの87%を、事後確認の対象として検出しました。

この87%は、有害な指示を事前に阻止した割合ではありません。Agent Anomaly Detectionは、エージェントの処理を待たせずにログや履歴を分析しますが、操作自体を停止する機能ではありません。誤検知や、長期記憶への攻撃に対する弱さも含め、導入前に確認しましょう。

実行手順やログを解析し、操作後に異常を見つける機能

AIエージェントは、メール、Webページ、社内文書などを読み、その内容をもとに次の操作を判断します。読んだ情報に悪意ある指示が紛れていると、利用者が意図しない操作を実行する場合があります。ツールから取得した文章に、勝手な送信や設定変更を促す指示が入るようなケースです。「間接的なプロンプトインジェクション」と呼ばれます。

GoogleのAgent Anomaly Detectionは、エージェントのトレース(実行手順の記録)とログを読み、目的から外れる操作がないか判定します。エージェントの実行と並行して、待ち合わせずに解析する非同期の仕組みです。Googleは、Gemini Enterprise Agent Platform向けに、対象を限定した先行提供であるPrivate Previewを行っていると説明しています。

Agent Anomaly Detectionは事後監査に向きますが、実行前に危険な操作を止める仕組みとは異なります。送金、権限変更、外部への情報送信などには、別途、実行前の権限チェックや、人の承認が必要です。

外部5ベンチマーク・1,774セッションで、有害な実行の87%を検知

Googleは、自社で作った試験だけでは検知能力を過大評価するおそれがあるとして、外部公開の5つのベンチマークを使いました。ベンチマークは、性能を比較・検証するための試験です。今回はAgentDojo、InjecAgent、Agent Security Bench(ASB)、AgentDyn、AgentHarmを使用しています。

試験では、Agent Development Kit(ADK)で構築したエージェントに「gemini-2.5-flash」を採用しました。模擬アプリの環境で、合計1,774件のセッションを実行しています。セッションは、ひとまとまりの作業ややり取りを指します。

検証中には、エージェント自身が有害な指示に従わずに終わったケースもありました。そのうえで、実際に有害な操作が起きたケースに限ると、Agent Anomaly Detectionは87%をレビュー対象として検知しました。ベンチマーク別の値は、AgentDojoが85%、InjecAgentが87%、AgentDynが99%、AgentHarmが81%と報告されています。

この割合を読む際は、分母に注意してください。指示が実行されなかった攻撃や、エージェントが読まなかった攻撃まで含めた、全セッションに対する防御成功率ではありません。危険な操作が起きたあとに、どれだけ発見できたかを示す値です。Googleの実験結果であり、別のモデルや実サービスでも、そのまま再現できる保証はありません。

正常な作業への誤警告は2〜16%、記憶汚染の検知は18件中4件

Agent Anomaly Detectionには、異常を見つける一方で、正常な作業も誤って警告するという兼ね合いがあります。Googleの公開結果では、正常なセッションを誤警告した割合は、対象アプリによって2〜16%でした。警告が多すぎると、運用担当者が重要な通知を見落とすおそれがあります。警告の重大度と、確認手順を決めて利用する必要があります。

とくに検知が弱かったのは、エージェントの長期記憶に悪意ある指示を紛れ込ませる「poisoned memory(記憶汚染)」です。この条件で有害な操作が実行された18件のうち、検知したのは4件でした。一時的に読む文章だけでなく、あとから再利用する保存情報も、攻撃に使われる可能性があります。

また、送信したセッションのおよそ6%では、検知結果自体が返りませんでした。運用担当者は、異常を検知できなかった場合と、結果を返せなかった場合を、分けて集計する必要があります。Googleが開示したこうした制約も、導入の判断材料になります。

Gemini 2.5 Flashと模擬環境での結果を、攻撃の阻止率と混同しない

今回の試験は公開ベンチマークを使っていますが、環境は模擬アプリで、エージェントのモデルもgemini-2.5-flashの1種類です。実際の業務システムには、さまざまな権限、認証手順、社内ツール、独自のログ形式があります。実運用での誤検知率や、検出できる範囲は異なる可能性があります。

外部ベンチマーク自体も、攻撃手法を均等に網羅しているわけではありません。Googleによると、目標の乗っ取りやツールの悪用では、多くのデータを得られました。一方、複数エージェント間で連鎖する障害や、ID・権限を悪用する攻撃には、正解となる分類を付けたデータが十分にないと指摘しています。

導入担当者は、87%だけを切り出して効果を見積もらず、実際に動かすエージェントの操作ログと、過去の失敗例を確認してください。どの異常を確実に見つけたいか、事前に決めることが大切です。とくに自動化した業務では、「異常なし」という結果だけでなく、結果が戻らなかった件数と再確認手順も、監査対象に含めてください。

実行前の権限制限・人の承認と、実行後の監査を組み合わせる

AIエージェントを運用する組織は、危険な操作の実行前と実行後に、どんな対策が必要かを分けて考えましょう。実行前には、ツールへ渡す権限を必要最小限にし、メール送信、支払い、データ削除などを、人の承認にかけてください。外部から読んだ文章を、実行すべき指示ではなく、調べるためのデータとして扱う設計も必要です。

実行後は、どの情報を読んで何を操作したか、権限の範囲を超えた行動がなかったかを、ログで追跡します。Agent Anomaly Detectionのような監査機能は、この事後確認を支えます。警告だけを根拠に危険な操作と決めつけず、運用担当者がログを確認し、誤警告かどうかを判断する体制も必要です。

現時点ではPrivate Previewのため、すべての利用者がすぐ有効にできるわけではありません。AIエージェントの実装担当者は、先行提供の条件を確認し、監査と予防を両方備える構成を検討してください。

関連解説:AIエージェント(AI Agent)とは?仕組みとチャットAIとの違い。