Visite du produit en 3 min E-mail pour un incident urgent
Blog sur la sécurité

Contrôles de sécurité pour le traitement des entrées en coréen

Les filtres conçus pour l’anglais couvrent mal les particularités de l’écriture coréenne et les entrées provenant de documents externes.
Les points à contrôler concernent la normalisation, la provenance des entrées et la vérification des autorisations.

Contrôles de sécurité pour le traitement des entrées en coréen

Ce que le filtre compare et ce que le modèle interprète

Un filtre fondé sur une liste de mots interdits ou sur un classifieur entraîné en anglais peut mal couvrir les entrées en coréen. Vérifiez que le filtre traite les formes d’écriture que le modèle sait interpréter.

Deng et al. ont constaté qu’une même demande nuisible, présentée dans plusieurs langues, générait davantage de réponses à risque dans les langues moins représentées dans les données d’entraînement (ICLR 2024). L’efficacité des garde-fous du modèle peut donc varier selon la langue.

Variantes à prendre en compte lors des contrôles

Pour les entrées en coréen, vérifiez la représentation des caractères, le registre et le contexte, ainsi que les instructions présentes dans des documents externes ou des réponses d’outils. Un texte peut sembler identique à l’écran ou avoir le même sens, alors que sa représentation interne et son classement de risque diffèrent.

  • Vérifiez que les chaînes visuellement identiques sont classées de façon cohérente dans le texte d’origine et dans sa copie normalisée.
  • Vérifiez que la même politique de sécurité s’applique quelle que soit la formulation d’une demande professionnelle.
  • Vérifiez que les instructions présentes dans un document ou un résultat de recherche ne modifient ni la politique du modèle ni les autorisations de ses outils.

Normaliser avant de vérifier

Des caractères hangeul identiques à l’écran peuvent avoir des représentations Unicode différentes. Conservez le texte d’origine et normalisez une copie en NFC ou NFKC pour les comparer. NFC traite les équivalences canoniques, tandis que NFKC harmonise aussi les caractères de compatibilité.

Consignez l’emplacement de chaque détection dans la copie normalisée et sa correspondance dans l’original. Vérifiez que les expressions et les symboles coréens légitimes gardent leur sens. La normalisation rend les contrôles de chaînes plus cohérents. Appliquez aussi des limites d’autorisation pour empêcher le contenu externe d’accorder des droits sur les outils.

Limites des filtres

Les contrôles de chaînes et la normalisation couvrent mal les variations de registre, les jeux de rôle et les instructions indirectes dans les documents. OWASP LLM01:2026 Prompt Injection indique qu’il n’existe pas de protection certaine et recommande de combiner la limitation des droits, l’approbation humaine et la séparation des contenus externes.

Dans nos rapports, nous détaillons les outils qu’une instruction non fiable aurait pu solliciter et les actions que ces outils auraient pu exécuter. Les droits effectifs des outils déterminent l’ampleur de l’impact.

Références

Parlez à un expert
sécurité de Genox.

Nous contacter