Visite du produit en 3 min E-mail pour un incident urgent
Blog sur la sécurité

Traces nécessaires à l’audit des décisions de sécurité prises par l’IA

Pour examiner une décision en audit, il faut retrouver les entrées d’origine, les versions du modèle et de la politique ainsi que l’emplacement des preuves.
Nous distinguons la vérification de l’intégrité des traces d’origine et la comparaison avec le résultat obtenu en relançant l’analyse.

Traces nécessaires à l’audit des décisions de sécurité prises par l’IA

Les questions qui reviennent en audit

Si l’IA a clôturé une alerte ou réduit sa gravité, l’audit ou l’enquête soulèvera trois questions. Sur quelles données s’est-elle fondée ? Quel modèle et quelles règles étaient en vigueur ? L’analyse aboutirait-elle aujourd’hui à la même conclusion ? Des traces complètes suffisent aux deux premières questions. La troisième exige une vérification distincte.

Une température de 0 ne suffit pas

Une température de 0 ne garantit pas une sortie identique pour une même entrée. En septembre 2025, Thinking Machines Lab a expliqué que le serveur regroupe les requêtes selon la charge et que des noyaux GPU courants changent l’ordre des opérations en fonction de la taille de ces lots. Des noyaux indépendants de la taille des lots peuvent produire une sortie identique bit pour bit, au prix d’une baisse de débit.

Nous conservons les entrées et les sorties telles qu’elles étaient au moment de la décision. Une nouvelle exécution sert de point de comparaison. Une conclusion différente indique que la décision initiale mérite un nouvel examen.

Les éléments à consigner pour chaque décision

Pour chaque décision, Threat Correlator regroupe les preuves, la justification, la conclusion et les recommandations dans une même trace. Voici un exemple générique des informations à consigner.

{
  "verdict_id": "...",
  "decided_at": "2026-10-21T02:13:44+09:00",
  "verdict": "true_positive",
  "severity": "high",
  "evidence": [
    {"source": "edr",   "ref": "event_id=...", "sha256": "..."},
    {"source": "proxy", "ref": "proxy/2026/10/21/02.log#L1840", "sha256": "..."}
  ],
  "attack_mapping": ["T1059.001", "T1490"],
  "model": {"name": "...", "version": "...", "temperature": 0},
  "prompt_template": "triage-v14",
  "policy_version": "auto-response-2026.10",
  "input_digest": "sha256:...",
  "output_raw": "...",
  "reviewed_by": "analyst-042"
}

Chacun de ces champs est courant. Le plus facile à oublier est prompt_templateet policy_version. Si vous modifiez un prompt, les critères de décision changent même si le modèle reste identique. Gérez donc les versions des prompts comme celles du code.

Les preuves sont souvent référencées par l’emplacement et l’empreinte des journaux, sans copie des données d’origine. Si les journaux sont conservés moins longtemps que les décisions, l’audit peut retrouver une décision un an plus tard sans pouvoir consulter ses preuves. Alignez les durées de conservation.

Pourquoi consigner les identifiants des techniques ATT&CK

Pour documenter une « exécution suspecte de PowerShell », consignez le code T1059.001dans le dossier d’audit. MITRE ATT&CK fournit une classification publique qui permet à un tiers d’examiner les preuves selon les mêmes critères. Une correspondance peut être erronée et une même alerte peut relever de plusieurs techniques. Faites aussi valider cette correspondance par un analyste.

Exigences réglementaires

Entrée en vigueur le 22 janvier 2026, la loi-cadre coréenne sur l’IA impose aux fournisseurs de systèmes d’IA à fort impact de publier notamment les éléments essentiels de leur dispositif de gestion des risques et de leurs mesures d’explication (article 34). La qualification dépend notamment de l’usage des résultats dans des décisions qui touchent les droits individuels, par exemple en matière de recrutement ou de crédit. Une analyse juridique est nécessaire. Dans tous les cas, conservez les éléments qui justifient les décisions.

Références

Parlez à un expert
sécurité de Genox.

Nous contacter