
Définir d’abord ce que l’on délègue
Une décision unique sur la place de l’IA dans le SOC peut déboucher sur un outil limité au résumé ou sur une délégation trop large. Genox distingue quatre niveaux pour définir avec chaque client ce qui peut être délégué. Cette grille sert à convenir des règles d’approbation.
| Étape | Rôle de l’IA | Rôle de l’équipe |
|---|---|---|
| Assistance L1 | Recherche dans les journaux et synthèse des alertes | Triage et décision |
| Triage L2 | Recommandation de classement et de priorité | Investigation et décision |
| Investigation L3 | Collecte des journaux pertinents, synthèse des preuves et proposition de décision | Validation des décisions |
| Réponse L4 | Exécution de mesures dans les limites définies par la politique | Définition des politiques, gestion des exceptions et contrôle a posteriori |
Commencez généralement au niveau L2, puis passez au niveau L3 règle de détection par règle. Activez L4 uniquement pour les règles dont l’impact est défini à l’avance. L’isolement d’un poste standard ayant exécuté un fichier identifié comme malveillant par son empreinte peut relever de L4. Le verrouillage d’un compte administrateur de domaine reste soumis à un contrôle distinct.
Une alerte peut contenir du texte rédigé par un attaquant
Un attaquant peut contrôler une partie des données lues par une IA de SOC : l’objet et le corps d’un courriel, le User-Agent et le chemin d’une URL, le texte d’un fichier ou le nom d’un compte. OWASP Top 10 for LLM Applications 2026 classe les instructions externes qui modifient le comportement du modèle parmi les injections indirectes (LLM01 Prompt Injection). Les journaux de sécurité doivent être traités comme des données non fiables.
{"src_ip": "203.0.113.7", "method": "GET", "path": "/search", "status": 200,
"user_agent": "[untrusted text supplied by the request]"}
Séparez les champs issus des journaux des instructions du prompt. Si une alerte a été reclassée comme bénigne sur la seule foi d’un texte contenu dans un journal, soumettez-la à un analyste. Faites aussi examiner un échantillon des alertes clôturées par l’IA. Une attaque manquée peut rester invisible bien après un faux positif.
Évaluer séparément les fonctionnalités, les autorisations et l’autonomie
OWASP LLM03:2026 Excessive Agency distingue trois causes : trop de fonctionnalités, trop de droits et trop d’autonomie en l’absence de contrôle humain. Pour un agent de SOC, ces risques se traduisent par des questions concrètes.
- L’agent chargé d’enquêter sur les alertes dispose-t-il aussi d’un outil qui peut modifier les règles du pare-feu ?
- La clé API EDR utilisée par l’agent est-elle en lecture seule ou permet-elle aussi d’isoler un équipement et de supprimer des fichiers ?
- Les conditions dans lesquelles une mesure d’isolement peut être exécutée sans approbation sont-elles documentées ?
Une procédure d’approbation ne limite pas les privilèges d’une clé d’administration. Si l’agent est détourné, l’impact peut s’étendre à tous les droits de cette clé. Dans le Top 10 OWASP pour les applications agentiques publié en décembre 2025, le détournement d’objectif (ASI01), l’usage abusif des outils (ASI02) et l’abus d’identité ou de privilèges (ASI03) occupent les premières places.
Les décisions qui restent humaines
En avril 2025, la troisième édition du guide NIST SP 800-61 a inscrit la réponse aux incidents dans les six fonctions du CSF 2.0 (Govern, Identify, Protect, Detect, Respond, Recover). Une partie de la détection, de l’analyse et de la réponse peut être automatisée. Les décisions de gouvernance sur les risques acceptables restent humaines. Genox recommande de conserver les décisions suivantes sous contrôle humain.
- La déclaration et la qualification de gravité d’un incident, y compris les décisions soumises à un délai légal, comme le signalement d’une fuite de données personnelles.
- Les mesures susceptibles d’interrompre l’activité, comme l’isolement d’un serveur critique, le verrouillage d’un compte à privilèges ou le blocage d’un segment réseau.
- La modification de la politique de réponse automatisée.
- Le contrôle d’un échantillon d’alertes classées comme bénignes par l’IA.
Consigner aussi les décisions de l’IA
Les décisions des analystes figurent souvent dans les tickets, tandis que celles de l’IA restent dispersées dans l’historique des conversations. La clôture d’une alerte devient alors difficile à expliquer. Pour chaque alerte traitée par l’agent, conservez au minimum les éléments suivants avec le ticket.
- Emplacement et période couverte par les données consultées, avec la liste des journaux examinés et de ceux écartés.
- Outils appelés, arguments transmis et résultats obtenus.
- Classement, justification et identifiants des techniques ATT&CK associés.
- Versions du modèle, du prompt et de la politique de réponse appliqués.
Le deuxième point mérite une attention particulière. Si une injection de prompt amène l’agent à appeler le mauvais outil, la trace apparaîtra d’abord dans le journal des appels. Nous détaillons les éléments à conserver dans notre Article sur la préparation des audits, avec des exemples.
Comment le travail évolue
La nature du travail des analystes évolue. Le triage répétitif recule au profit de la révision des règles de détection, des politiques de réponse et des décisions de l’IA. Les étapes d’un pilote et des exemples de règles d’approbation figurent dans le Guide de déploiement d’un SOC agentique.
Références
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- LLM03:2026 Excessive Agency, OWASP Top 10 for LLM Applications 2026
- OWASP Top 10 for Agentic Applications, OWASP GenAI Security Project, 2025.12
- SP 800-61 Rev. 3, Incident Response Recommendations and Considerations for Cybersecurity Risk Management, NIST, 2025.4


