3-Minuten-Produkttour Dringender Vorfall per E-Mail
Sicherheitsblog

Prüfprotokolle für KI-gestützte Sicherheitsbewertungen

Für die Prüfung einer Bewertung im Audit brauchen Sie die damalige Eingabe, die Versionen von Modell und Richtlinie sowie den Speicherort der Nachweise.
Wir erläutern die Integritätsprüfung der ursprünglichen Aufzeichnung und den Abgleich der Ergebnisse nach erneuter Ausführung.

Prüfprotokolle für KI-gestützte Sicherheitsbewertungen

Welche Fragen bei einem Audit aufkommen

Wenn eine KI eine Warnmeldung schließt oder deren Risiko herabstuft, stellen sich bei einem Audit oder einer Untersuchung drei Fragen. Auf welchen Informationen beruhte die Bewertung? Welches Modell und welche Regeln waren zu diesem Zeitpunkt aktiv? Führt eine erneute Prüfung heute zum selben Ergebnis? Die ersten beiden Fragen lassen sich mit vollständigen Aufzeichnungen beantworten. Die dritte erfordert mehr Aufwand.

Eine Temperature von 0 reicht für Reproduzierbarkeit allein nicht aus

Die Einstellung temperature=0 legt nahe, dass dieselbe Eingabe immer dieselbe Ausgabe erzeugt. Thinking Machines Lab erläuterte im September 2025, warum die Ergebnisse dennoch abweichen können. Ein Inferenzserver bündelt Anfragen je nach Auslastung in unterschiedlich großen Batches. Verbreitete GPU-Kernel können abhängig von der Batchgröße die Reihenfolge der Rechenoperationen ändern. So kann derselbe Prompt unterschiedliche Ausgaben erzeugen. Kernel, die unabhängig von der Batchgröße dasselbe Ergebnis liefern, ermöglichen bitidentische Ausgaben, können den Durchsatz aber verringern.

Wir bewahren deshalb die Eingaben und Ausgaben in der Fassung auf, in der sie zum Zeitpunkt der Bewertung vorlagen. Das Ergebnis einer erneuten Ausführung lässt sich mit der ursprünglichen Bewertung vergleichen. Weicht das Ergebnis ab, sollte die Bewertung erneut geprüft werden, da sie möglicherweise ein Grenzfall war.

Was wir pro Bewertung dokumentieren

Der Threat Correlator fasst Nachweise, Begründung, Bewertung und Empfehlung für jeden Vorgang in einem Datensatz zusammen. Das folgende allgemeine Beispiel zeigt, welche Angaben ein solcher Datensatz enthalten sollte.

{
  "verdict_id": "...",
  "decided_at": "2026-10-21T02:13:44+09:00",
  "verdict": "true_positive",
  "severity": "high",
  "evidence": [
    {"source": "edr",   "ref": "event_id=...", "sha256": "..."},
    {"source": "proxy", "ref": "proxy/2026/10/21/02.log#L1840", "sha256": "..."}
  ],
  "attack_mapping": ["T1059.001", "T1490"],
  "model": {"name": "...", "version": "...", "temperature": 0},
  "prompt_template": "triage-v14",
  "policy_version": "auto-response-2026.10",
  "input_digest": "sha256:...",
  "output_raw": "...",
  "reviewed_by": "analyst-042"
}

Die Felder sind für sich genommen geläufig. Leicht zu übersehen sind prompt_templateund policy_version. Wenn der Prompt bei unverändertem Modell geändert wird, ändert sich der Bewertungsmaßstab. Verwalten Sie deshalb auch Prompts wie Code mit Versionsangaben.

Bei Nachweisen werden häufig nur Speicherort und Hash des Originalprotokolls festgehalten. Läuft die Aufbewahrungsfrist für das Protokoll vor der Frist für die Bewertung ab, kann bei einem Audit ein Jahr später die Bewertung vorliegen, während ihr Nachweis bereits gelöscht ist. Stimmen Sie die Fristen aufeinander ab.

Warum wir ATT&CK-Technik-IDs angeben

Ein konkreter ATT&CK-Eintrag wie T1059.001macht die Bewertung im Audit genauer nachvollziehbar als „verdächtige PowerShell-Ausführung“. MITRE ATT&CK ist eine öffentliche Klassifikation, anhand derer Dritte die Zuordnung prüfen können. Zuordnungen können fehlerhaft sein und eine Warnmeldung kann mehreren Techniken entsprechen. Deshalb sollten Analysten auch diese Zuordnungen prüfen.

Regulatorische Anforderungen

Das am 22. Januar 2026 in Kraft getretene südkoreanische KI-Rahmengesetz verpflichtet Anbieter von KI mit hoher Auswirkung, unter anderem die wesentlichen Inhalte ihrer Maßnahmen zum Risikomanagement und zur Erklärbarkeit zu veröffentlichen (Art. 34). KI für die Sicherheitsüberwachung dürfte selten unmittelbar darunterfallen. Eine genauere Prüfung ist geboten, wenn ihre Bewertungen Entscheidungen mit Auswirkungen auf Rechte Einzelner beeinflussen, etwa bei Einstellungen oder Kreditvergaben. Ob die Regelung greift, muss juristisch geprüft werden. Eine dokumentierte Begründung erleichtert die spätere Prüfung in jedem Fall.

Quellen und weiterführende Informationen

Sprechen Sie mit unseren
Sicherheitsexperten.

Kontakt