3分でわかる製品ツアー 緊急インシデントのメール連絡
ホワイトペーパー・ガイド

AIセキュリティ監視の試験運用ガイド・90日間の計画例

セキュリティ監視チームがAIエージェントの役割を段階的に検証するための、90日間の計画例です。
自動化の範囲、担当者による承認、次の段階へ進む前に確認する品質指標をまとめました。

AIセキュリティ監視の試験運用ガイド・90日間の計画例

開始前に決める三つのこと

このガイドは、AIエージェントをセキュリティ監視に試験導入するチーム向けで、特定の製品に依存しません。任せる範囲をL1からL4に分ける考え方は、 2026年9月号 脅威レポートで説明しました。ここでは、その区分を実際の運用スケジュールに当てはめます。

導入前に、エージェントが読み取るデータの範囲、呼び出せるツールとその権限、結果の評価方法を決めます。最後の項目は見落とされやすく、決定が遅れると試験運用後に継続を判断する根拠が不足します。

1〜30日目:読み取りのみ

初月は、エージェントに読み取り権限だけを付与します。SIEMの検索、EDRイベントや脅威インテリジェンスの照会で十分です。エージェントはアラートごとに分類案と根拠を記録し、アナリストは通常どおりに処理したうえで、一致したかどうかを記録します。エージェントの意見に引きずられないよう、可能ならアナリストの判定を確定してから比較してください。

指標定義評価時の注意点
一致率アナリストの最終判定とエージェントの分類が一致した割合検知ルールごとに算出します。全体平均は、分類しやすいアラートによって高く出ることがあります。
真陽性の見逃しエージェントが正常と分類し、アナリストが攻撃と判定した件数最優先の指標です。見逃しが1件以上あったルールは次の段階に進めません。
根拠の正確性エージェントが示した根拠と実際のログが一致するか、サンプルを確認した結果もっともらしくても、ログに裏付けのない根拠が示された場合に検出するための指標です。
分類の所要時間アラートの発生から分類案が出るまでの時間同じアラートをアナリストが処理した時間と比較します。

組織によってアラートの構成が異なるため、一律の目標値は設けていません。最初の1か月の結果を、その組織のベースラインとします。

31〜60日目:検知ルールごとに分類を委任

最初の1か月に真陽性の見逃しがなく、一致率も高かった検知ルールから、分類をエージェントに任せます。エージェントが正常と判定してクローズしたアラートは、一定の割合でサンプルを抽出し、アナリストが再確認します。初めは抽出率を高めに設定し、結果に応じて下げます。

この段階では、プロンプトインジェクションも検証項目に含めます。アラートに含まれるメール本文やURL、User-Agent、ファイル内の文字列には、信頼できない外部入力が含まれます。OWASP Top 10 for LLM Applications 2026では、これを間接プロンプトインジェクション(LLM01 Prompt Injection)として扱っています。試験運用では無害な合成データを使い、外部の文言だけでエージェントの判定が変わらないことを確認してください。判定が変わった場合は、分類を任せる前にプロンプトの構成を見直します。

61〜90日目:範囲を限定した自動対応

最終月は、一部の対応を自動で実行します。対象は影響範囲と取り消し方法が決まっている措置に限ります。承認ポリシーは、コードと同様にレビューと変更履歴を残して管理します。以下は、その形式を示す例です。

policy_version: auto-response-2026.10
rules:
  - action: isolate_host
    when: { severity: [critical, high], asset_tier: [standard] }
    mode: auto
    rollback: release_isolation
  - action: isolate_host
    when: { asset_tier: [crown_jewel] }
    mode: require_approval
    approvers: [soc_lead]
  - action: disable_account
    when: { account_type: [privileged] }
    mode: require_approval
  - action: block_ip
    when: { confidence: high }
    mode: auto
    ttl: 24h

ポリシーファイルはバージョンを付けてリポジトリで管理し、変更時にレビューします。自動対応の記録には、実行時のポリシーバージョンを残します。後からサーバーを隔離した理由を確認する際に、この記録を使います。IPアドレスの遮断など、長期間続けると副作用が出る措置には、有効期限を設定してください。

エージェントの権限設計

OWASP LLM03:2026 Excessive Agencyは、原因を機能、権限、自律性の三つに分けています。上記の承認ポリシーが制御するのは自律性です。機能と権限も個別に絞ります。

  • 調査用と対応用のエージェントを分け、調査用には読み取り専用のAPIキーだけを付与します。
  • 対応用エージェントのキーも、ポリシーで定めた措置だけを実行できるように制限します。EDRの管理者キーはそのまま使わず、必要な権限に絞ったキーを発行します。
  • 外部にメールやメッセージを送るツールは、監視業務に不可欠な場合に限って追加します。
  • すべてのツール呼び出しについて、リクエスト元、引数、結果を記録します。

2025年12月に公開されたOWASPのエージェンティックアプリケーションTop 10でも、ツールの悪用(ASI02)とID・権限の悪用(ASI03)は上位項目です。承認画面に加え、ツールと権限を必要最小限にします。

90日後の判断

試験運用後、検知ルールごとに、自動対応を維持する、分類だけを任せる、担当者の運用に戻す、のいずれかを選びます。真陽性の見逃しがあったルールは、原因が分かるまで担当者の運用に戻します。

NIST SP 800-61第3版は、インシデント対応をCSF 2.0の6機能全体に関わる活動と位置付けています。改善(ID.IM)では、インシデントや訓練で得た知見を手順の改善につなげます。エージェントのポリシーも同じサイクルで見直し、四半期ごとに真陽性の見逃しと根拠の正確性を評価して、ルールごとの自動化レベルを調整します。

試験運用の結果にかかわらず担当者が担う判断は、事前に文書化します。インシデントの宣言と重大度の決定、法令に基づく報告の判断、業務停止を伴う措置、自動対応ポリシーの変更が該当します。

参考資料

範囲と時期を
Genoxにご相談ください。

お問い合わせ