Visite du produit en 3 min E-mail pour un incident urgent
N° 9 de 2026Rapport sur les menaces

Quelles décisions reviennent aux analystes dans la supervision de la sécurité par IA ?

Nous distinguons quatre niveaux d’automatisation, du triage des alertes à la réponse.
Nous expliquons comment gérer les entrées externes et les droits excessifs des outils, et comment définir les mesures qui exigent une approbation humaine.

Quelles décisions reviennent aux analystes dans la supervision de la sécurité par IA ?

Définir d’abord ce que l’on délègue

Une décision unique sur la place de l’IA dans le SOC peut déboucher sur un outil limité au résumé ou sur une délégation trop large. Genox distingue quatre niveaux pour définir avec chaque client ce qui peut être délégué. Cette grille sert à convenir des règles d’approbation.

ÉtapeRôle de l’IARôle de l’équipe
Assistance L1Recherche dans les journaux et synthèse des alertesTriage et décision
Triage L2Recommandation de classement et de prioritéInvestigation et décision
Investigation L3Collecte des journaux pertinents, synthèse des preuves et proposition de décisionValidation des décisions
Réponse L4Exécution de mesures dans les limites définies par la politiqueDéfinition des politiques, gestion des exceptions et contrôle a posteriori

Commencez généralement au niveau L2, puis passez au niveau L3 règle de détection par règle. Activez L4 uniquement pour les règles dont l’impact est défini à l’avance. L’isolement d’un poste standard ayant exécuté un fichier identifié comme malveillant par son empreinte peut relever de L4. Le verrouillage d’un compte administrateur de domaine reste soumis à un contrôle distinct.

Une alerte peut contenir du texte rédigé par un attaquant

Un attaquant peut contrôler une partie des données lues par une IA de SOC : l’objet et le corps d’un courriel, le User-Agent et le chemin d’une URL, le texte d’un fichier ou le nom d’un compte. OWASP Top 10 for LLM Applications 2026 classe les instructions externes qui modifient le comportement du modèle parmi les injections indirectes (LLM01 Prompt Injection). Les journaux de sécurité doivent être traités comme des données non fiables.

{"src_ip": "203.0.113.7", "method": "GET", "path": "/search", "status": 200,
 "user_agent": "[untrusted text supplied by the request]"}

Séparez les champs issus des journaux des instructions du prompt. Si une alerte a été reclassée comme bénigne sur la seule foi d’un texte contenu dans un journal, soumettez-la à un analyste. Faites aussi examiner un échantillon des alertes clôturées par l’IA. Une attaque manquée peut rester invisible bien après un faux positif.

Évaluer séparément les fonctionnalités, les autorisations et l’autonomie

OWASP LLM03:2026 Excessive Agency distingue trois causes : trop de fonctionnalités, trop de droits et trop d’autonomie en l’absence de contrôle humain. Pour un agent de SOC, ces risques se traduisent par des questions concrètes.

  • L’agent chargé d’enquêter sur les alertes dispose-t-il aussi d’un outil qui peut modifier les règles du pare-feu ?
  • La clé API EDR utilisée par l’agent est-elle en lecture seule ou permet-elle aussi d’isoler un équipement et de supprimer des fichiers ?
  • Les conditions dans lesquelles une mesure d’isolement peut être exécutée sans approbation sont-elles documentées ?

Une procédure d’approbation ne limite pas les privilèges d’une clé d’administration. Si l’agent est détourné, l’impact peut s’étendre à tous les droits de cette clé. Dans le Top 10 OWASP pour les applications agentiques publié en décembre 2025, le détournement d’objectif (ASI01), l’usage abusif des outils (ASI02) et l’abus d’identité ou de privilèges (ASI03) occupent les premières places.

Les décisions qui restent humaines

En avril 2025, la troisième édition du guide NIST SP 800-61 a inscrit la réponse aux incidents dans les six fonctions du CSF 2.0 (Govern, Identify, Protect, Detect, Respond, Recover). Une partie de la détection, de l’analyse et de la réponse peut être automatisée. Les décisions de gouvernance sur les risques acceptables restent humaines. Genox recommande de conserver les décisions suivantes sous contrôle humain.

  1. La déclaration et la qualification de gravité d’un incident, y compris les décisions soumises à un délai légal, comme le signalement d’une fuite de données personnelles.
  2. Les mesures susceptibles d’interrompre l’activité, comme l’isolement d’un serveur critique, le verrouillage d’un compte à privilèges ou le blocage d’un segment réseau.
  3. La modification de la politique de réponse automatisée.
  4. Le contrôle d’un échantillon d’alertes classées comme bénignes par l’IA.

Consigner aussi les décisions de l’IA

Les décisions des analystes figurent souvent dans les tickets, tandis que celles de l’IA restent dispersées dans l’historique des conversations. La clôture d’une alerte devient alors difficile à expliquer. Pour chaque alerte traitée par l’agent, conservez au minimum les éléments suivants avec le ticket.

  • Emplacement et période couverte par les données consultées, avec la liste des journaux examinés et de ceux écartés.
  • Outils appelés, arguments transmis et résultats obtenus.
  • Classement, justification et identifiants des techniques ATT&CK associés.
  • Versions du modèle, du prompt et de la politique de réponse appliqués.

Le deuxième point mérite une attention particulière. Si une injection de prompt amène l’agent à appeler le mauvais outil, la trace apparaîtra d’abord dans le journal des appels. Nous détaillons les éléments à conserver dans notre Article sur la préparation des audits, avec des exemples.

Comment le travail évolue

La nature du travail des analystes évolue. Le triage répétitif recule au profit de la révision des règles de détection, des politiques de réponse et des décisions de l’IA. Les étapes d’un pilote et des exemples de règles d’approbation figurent dans le Guide de déploiement d’un SOC agentique.

Références

Parlez à un expert
sécurité de Genox.

Nous contacter