
Ce que le filtre compare et ce que le modèle interprète
Un filtre fondé sur une liste de mots interdits ou sur un classifieur entraîné en anglais peut mal couvrir les entrées en coréen. Vérifiez que le filtre traite les formes d’écriture que le modèle sait interpréter.
Deng et al. ont constaté qu’une même demande nuisible, présentée dans plusieurs langues, générait davantage de réponses à risque dans les langues moins représentées dans les données d’entraînement (ICLR 2024). L’efficacité des garde-fous du modèle peut donc varier selon la langue.
Variantes à prendre en compte lors des contrôles
Pour les entrées en coréen, vérifiez la représentation des caractères, le registre et le contexte, ainsi que les instructions présentes dans des documents externes ou des réponses d’outils. Un texte peut sembler identique à l’écran ou avoir le même sens, alors que sa représentation interne et son classement de risque diffèrent.
- Vérifiez que les chaînes visuellement identiques sont classées de façon cohérente dans le texte d’origine et dans sa copie normalisée.
- Vérifiez que la même politique de sécurité s’applique quelle que soit la formulation d’une demande professionnelle.
- Vérifiez que les instructions présentes dans un document ou un résultat de recherche ne modifient ni la politique du modèle ni les autorisations de ses outils.
Normaliser avant de vérifier
Des caractères hangeul identiques à l’écran peuvent avoir des représentations Unicode différentes. Conservez le texte d’origine et normalisez une copie en NFC ou NFKC pour les comparer. NFC traite les équivalences canoniques, tandis que NFKC harmonise aussi les caractères de compatibilité.
Consignez l’emplacement de chaque détection dans la copie normalisée et sa correspondance dans l’original. Vérifiez que les expressions et les symboles coréens légitimes gardent leur sens. La normalisation rend les contrôles de chaînes plus cohérents. Appliquez aussi des limites d’autorisation pour empêcher le contenu externe d’accorder des droits sur les outils.
Limites des filtres
Les contrôles de chaînes et la normalisation couvrent mal les variations de registre, les jeux de rôle et les instructions indirectes dans les documents. OWASP LLM01:2026 Prompt Injection indique qu’il n’existe pas de protection certaine et recommande de combiner la limitation des droits, l’approbation humaine et la séparation des contenus externes.
Dans nos rapports, nous détaillons les outils qu’une instruction non fiable aurait pu solliciter et les actions que ces outils auraient pu exécuter. Les droits effectifs des outils déterminent l’ampleur de l’impact.
Références
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- Multilingual Jailbreak Challenges in Large Language Models, Deng et al., ICLR 2024
- Defending LLM applications against Unicode character smuggling, AWS Security Blog, 2025.9
- UAX #15: Unicode Normalization Forms, Unicode Consortium


