
Les questions qui reviennent en audit
Si l’IA a clôturé une alerte ou réduit sa gravité, l’audit ou l’enquête soulèvera trois questions. Sur quelles données s’est-elle fondée ? Quel modèle et quelles règles étaient en vigueur ? L’analyse aboutirait-elle aujourd’hui à la même conclusion ? Des traces complètes suffisent aux deux premières questions. La troisième exige une vérification distincte.
Une température de 0 ne suffit pas
Une température de 0 ne garantit pas une sortie identique pour une même entrée. En septembre 2025, Thinking Machines Lab a expliqué que le serveur regroupe les requêtes selon la charge et que des noyaux GPU courants changent l’ordre des opérations en fonction de la taille de ces lots. Des noyaux indépendants de la taille des lots peuvent produire une sortie identique bit pour bit, au prix d’une baisse de débit.
Nous conservons les entrées et les sorties telles qu’elles étaient au moment de la décision. Une nouvelle exécution sert de point de comparaison. Une conclusion différente indique que la décision initiale mérite un nouvel examen.
Les éléments à consigner pour chaque décision
Pour chaque décision, Threat Correlator regroupe les preuves, la justification, la conclusion et les recommandations dans une même trace. Voici un exemple générique des informations à consigner.
{
"verdict_id": "...",
"decided_at": "2026-10-21T02:13:44+09:00",
"verdict": "true_positive",
"severity": "high",
"evidence": [
{"source": "edr", "ref": "event_id=...", "sha256": "..."},
{"source": "proxy", "ref": "proxy/2026/10/21/02.log#L1840", "sha256": "..."}
],
"attack_mapping": ["T1059.001", "T1490"],
"model": {"name": "...", "version": "...", "temperature": 0},
"prompt_template": "triage-v14",
"policy_version": "auto-response-2026.10",
"input_digest": "sha256:...",
"output_raw": "...",
"reviewed_by": "analyst-042"
}
Chacun de ces champs est courant. Le plus facile à oublier est prompt_templateet policy_version. Si vous modifiez un prompt, les critères de décision changent même si le modèle reste identique. Gérez donc les versions des prompts comme celles du code.
Les preuves sont souvent référencées par l’emplacement et l’empreinte des journaux, sans copie des données d’origine. Si les journaux sont conservés moins longtemps que les décisions, l’audit peut retrouver une décision un an plus tard sans pouvoir consulter ses preuves. Alignez les durées de conservation.
Pourquoi consigner les identifiants des techniques ATT&CK
Pour documenter une « exécution suspecte de PowerShell », consignez le code T1059.001dans le dossier d’audit. MITRE ATT&CK fournit une classification publique qui permet à un tiers d’examiner les preuves selon les mêmes critères. Une correspondance peut être erronée et une même alerte peut relever de plusieurs techniques. Faites aussi valider cette correspondance par un analyste.
Exigences réglementaires
Entrée en vigueur le 22 janvier 2026, la loi-cadre coréenne sur l’IA impose aux fournisseurs de systèmes d’IA à fort impact de publier notamment les éléments essentiels de leur dispositif de gestion des risques et de leurs mesures d’explication (article 34). La qualification dépend notamment de l’usage des résultats dans des décisions qui touchent les droits individuels, par exemple en matière de recrutement ou de crédit. Une analyse juridique est nécessaire. Dans tous les cas, conservez les éléments qui justifient les décisions.
Références
- Defeating Nondeterminism in LLM Inference, Thinking Machines Lab, 2025.9
- Command and Scripting Interpreter: PowerShell, T1059.001, MITRE ATT&CK
- Loi-cadre coréenne sur le développement de l’intelligence artificielle et l’établissement d’un cadre de confiance, Centre national d’information juridique de Corée


