
Zuerst den Umfang der Automatisierung festlegen
Wird der KI-Einsatz im SOC als eine einzige Entscheidung behandelt, landet man schnell bei reinen Zusammenfassungen oder bei weitreichender Automatisierung mit Betriebsrisiken. Wir sprechen mit Kunden über vier Stufen der Aufgabenübernahme. Die Stufen helfen uns, gemeinsam konkrete Freigaberegeln zu formulieren.
| Stufe | Aufgaben der KI | Aufgaben des Personals |
|---|---|---|
| L1-Unterstützung | Protokollsuche und Zusammenfassung von Warnmeldungen | Klassifikation und Bewertung |
| L2-Klassifizierung | Vorschläge zur Klassifikation und Priorisierung von Warnmeldungen | Untersuchung und Bewertung |
| L3-Untersuchung | Relevante Protokolle erfassen, Belege zusammentragen und einen Bewertungsentwurf erstellen | Bewertung freigeben |
| L4-Reaktion | Maßnahmen im vorgegebenen Richtlinienrahmen ausführen | Richtliniengestaltung, Behandlung von Ausnahmen und nachträgliche Prüfung |
Für die meisten Teams bietet sich L2 als Einstieg an. Anschließend lässt sich für einzelne Erkennungsregeln auf L3 erweitern. Aktivieren Sie L4 für einzelne Regeln nur, wenn die Auswirkungen der Maßnahmen vorab absehbar sind. Die Isolation eines einzelnen regulären Endgeräts, auf dem eine Datei mit einem bekannten schädlichen Hash ausgeführt wurde, kann für L4 geeignet sein. Das Sperren eines Domänenadministratorkontos sollte eine Freigabe erfordern.
Warnmeldungen können Texte von Angreifern enthalten
Ein beträchtlicher Teil der Daten, die KI in der Sicherheitsüberwachung liest, stammt aus externen oder von Angreifern beeinflussbaren Quellen. Dazu gehören Betreff und Text von Phishing-E-Mails, User-Agent und Pfad von Webanfragen, Zeichenfolgen in schädlichen Dateien und Namen neu angelegter Konten. Die OWASP Top 10 for LLM Applications 2026 fassen versteckte Anweisungen in externen Inhalten, die das Modellverhalten beeinflussen, unter indirekter Prompt-Injection zusammen (LLM01 Prompt Injection). Im SOC ist dies als Auffälligkeit in Protokolldaten relevant.
{"src_ip": "203.0.113.7", "method": "GET", "path": "/search", "status": 200,
"user_agent": "[untrusted text supplied by the request]"}
Erfassen Sie Protokollfelder im Prompt in einem eigenen Datenbereich, getrennt von den Anweisungen. Lassen Sie die Bewertung von einer zuständigen Person prüfen, wenn ein Agent eine Warnmeldung allein aufgrund von Text aus einem Protokollfeld als unbedenklich einstuft. Analysten sollten zudem Stichproben der von der KI geschlossenen Warnmeldungen nachprüfen, da übersehene Angriffe häufig später auffallen als Fehlalarme.
Funktionen, Berechtigungen und Autonomie getrennt bewerten
OWASP LLM03:2026 Excessive Agency benennt drei Ursachen. Dazu zählen übermäßige Funktionen, zu weitreichende Berechtigungen und autonomes Handeln ohne menschliche Prüfung. Auf Agenten für die Sicherheitsüberwachung angewendet ergeben sich daraus konkrete Fragen.
- Kann der Agent zur Untersuchung von Warnmeldungen auch Firewall-Regeln ändern?
- Ist der EDR-API-Schlüssel des Agenten auf Lesezugriffe beschränkt oder erlaubt er auch die Isolation von Endgeräten und das Löschen von Dateien?
- Ist schriftlich festgelegt, unter welchen Bedingungen Maßnahmen wie die Isolation eines Systems ohne Freigabe ausgeführt werden dürfen?
Diese drei Ursachen erfordern eigene Kontrollen. Auch mit einem Freigabeprozess kann bei einer Manipulation des Agenten der gesamte Rechteumfang eines Administratorschlüssels betroffen sein. In den OWASP Top 10 für agentenbasierte Anwendungen vom Dezember 2025 stehen die Übernahme von Agentenzielen (ASI01), der Missbrauch von Werkzeugen (ASI02) und der Missbrauch von Identitäten und Berechtigungen (ASI03) an erster Stelle.
Entscheidungen, die bei Menschen bleiben sollten
Im April 2025 ordnete NIST die Vorfallreaktion in SP 800-61 Rev. 3 allen sechs Funktionen des CSF 2.0 zu (Govern, Identify, Protect, Detect, Respond, Recover). Erkennung, Analyse und Teile der Reaktion lassen sich automatisieren. Die Entscheidung, welche Risiken die Organisation akzeptiert, gehört zu Govern und liegt bei den Verantwortlichen. Die folgenden Entscheidungen sollten bei Menschen bleiben.
- Einstufung eines Ereignisses als Sicherheitsvorfall und Festlegung des Schweregrads. Daran hängen Entscheidungen mit gesetzlichen Fristen, etwa die Meldung einer Datenschutzverletzung.
- Maßnahmen, die den Betrieb unterbrechen können. Dazu zählen die Isolation zentraler Server, das Sperren privilegierter Konten und das Abtrennen von Netzsegmenten.
- Änderungen an der Richtlinie für automatische Reaktionen.
- Stichprobenprüfung der Warnmeldungen, die die KI als unbedenklich geschlossen hat.
Auch KI-Bewertungen gehören in die Dokumentation
Bewertungen von Analysten werden im Ticket festgehalten. KI-Bewertungen bleiben dagegen mitunter über Gesprächsverläufe verteilt. Später lässt sich dann kaum nachvollziehen, warum die KI eine Warnmeldung geschlossen hat. Halten Sie bei jeder Bearbeitung durch einen Agenten mindestens die folgenden Angaben beim Ticket fest.
- Speicherort und Zeitraum der ausgewerteten Daten, einschließlich der Frage, welche Protokolle in die Prüfung eingeflossen sind.
- Aufgerufene Werkzeuge, übergebene Argumente und erhaltene Ergebnisse.
- Klassifikation, Begründung und zugeordnete ATT&CK-Technik-IDs.
- Versionen des verwendeten Modells, des Prompts und der Reaktionsrichtlinie.
Besonders wichtig ist die Protokollierung der Toolaufrufe. Löst eine Prompt-Injection einen unerwarteten Aufruf aus, ist die Spur im Aufrufprotokoll oft früher sichtbar als im Klassifikationsergebnis. Welche Angaben in den Bewertungsnachweis gehören, zeigt unser Beitrag zur Auditvorbereitungmit Beispielen.
Wie sich die Arbeit verändert
Für Analysten verändert sich vor allem die Art der Arbeit. Wiederkehrende Klassifikationsaufgaben nehmen ab. Dafür wird mehr Zeit für die Überarbeitung von Erkennungsregeln und Reaktionsrichtlinien sowie für die Prüfung von KI-Bewertungen benötigt. Den Ablauf eines Pilotbetriebs und Beispiele für Freigaberegeln finden Sie im Leitfaden zur Einführung eines agentenbasierten SOC.
Quellen und weiterführende Informationen
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- LLM03:2026 Excessive Agency, OWASP Top 10 for LLM Applications 2026
- OWASP Top 10 for Agentic Applications, OWASP GenAI Security Project, 2025.12
- SP 800-61 Rev. 3, Incident Response Recommendations and Considerations for Cybersecurity Risk Management, NIST, 2025.4


