3分でわかる製品ツアー 緊急インシデントのメール連絡
セキュリティブログ

AIによるセキュリティ判定の監査に必要な記録

監査で判定を検証するには、当時の入力、モデルとポリシーのバージョン、証拠の保存先が必要です。
原記録の完全性を確認する作業と、判定を再実行して結果を比較する作業の違いを説明します。

AIによるセキュリティ判定の監査に必要な記録

監査で問われること

AIがアラートをクローズしたり深刻度を下げたりしたとき、監査やインシデント調査では三つのことを問われます。何を根拠にしたか。その時点でどのモデルとルールが動いていたか。再実行しても同じ結論になるか。最初の二つには適切な記録があれば答えられますが、三つ目は単純ではありません。

temperatureを0に設定した場合の再現性

temperatureを0に設定しても、同じ入力に対する応答が常に一致するとは限りません。Thinking Machines Labが2025年9月に公開した記事によれば、推論サーバーのバッチサイズは負荷によって変わります。広く使われているGPUカーネルでは、バッチサイズによって演算順序が変わり、同じプロンプトでも結果が異なる場合があります。バッチサイズに依存しないカーネルでビット単位まで同じ出力を得られますが、処理速度は一部低下します。

当社は、判定時の入力と出力を原本のまま保存することを重視しています。再実行の結果は、元の判定との比較に使います。結論が変わった場合は、判定が境界に近かった可能性も含め、見直しの手掛かりにします。

判定ごとに記録する項目

Threat Correlatorは、証拠、根拠、判定、推奨対応を判定ごとに一つの記録にまとめます。以下は、記録に含める内容の一般的な例です。

{
  "verdict_id": "...",
  "decided_at": "2026-10-21T02:13:44+09:00",
  "verdict": "true_positive",
  "severity": "high",
  "evidence": [
    {"source": "edr",   "ref": "event_id=...", "sha256": "..."},
    {"source": "proxy", "ref": "proxy/2026/10/21/02.log#L1840", "sha256": "..."}
  ],
  "attack_mapping": ["T1059.001", "T1490"],
  "model": {"name": "...", "version": "...", "temperature": 0},
  "prompt_template": "triage-v14",
  "policy_version": "auto-response-2026.10",
  "input_digest": "sha256:...",
  "output_raw": "...",
  "reviewed_by": "analyst-042"
}

各項目の内容は基本的なものです。記録から漏れやすいのが、 prompt_templateと policy_versionです。モデルが同じでも、プロンプトの文言を変更すれば判定基準が変わります。コードと同様にバージョンを付けて管理してください。

証拠として、元のログをコピーせず、保存先とハッシュ値だけを記録することがあります。ログの保存期間が判定記録の保存期間より短いと、1年後の監査では判定記録が残っていても、根拠となるログは削除済みです。両方の保存期間をそろえてください。

ATT&CKのテクニックIDを記録する理由

「不審なPowerShellの実行」と記載する場合に比べ、 T1059.001を付けると、監査で根拠について認識をそろえやすくなります。MITRE ATT&CKは公開された共通の分類体系であり、第三者も同じ基準で確認できます。対応付けの誤りや、一つのアラートに複数のテクニックが該当する場合もあるため、アナリストが対応付けも確認します。

規制上の要件

2026年1月22日に施行された韓国の人工知能基本法は、高影響AIを提供する事業者に対し、リスク管理策やAIの説明方法の主な内容などを公表するよう求めています(第34条)。セキュリティ監視に使うAIが高影響AIに該当するかは、採用や融資審査など個人の権利に影響する業務に判定がどう関わるかも含め、法務部門で確認してください。該当の有無にかかわらず、判定の根拠を記録しておけば事後の確認に使えます。

参考資料

範囲と時期を
Genoxにご相談ください。

お問い合わせ