
Qué compara el filtro y qué lee el modelo
Un filtro basado en listas de términos o en clasificadores entrenados con ejemplos en inglés puede dejar lagunas al procesar coreano. El modelo comprende el idioma, mientras que el filtro puede depender de patrones en inglés o de una representación textual concreta.
Deng y colaboradores compararon las mismas solicitudes dañinas en varios idiomas. En su estudio, los idiomas con menos recursos de entrenamiento registraron más respuestas inseguras (ICLR 2024). El comportamiento de seguridad de un modelo puede variar según el idioma.
Variantes que conviene evaluar
Al evaluar entradas en coreano, revise por separado la representación de los caracteres, el tono y el contexto, y las instrucciones incluidas en documentos externos o en respuestas de herramientas. Lo que el usuario ve como el mismo texto o interpreta con el mismo sentido puede tener otra representación interna y recibir una clasificación de riesgo distinta.
- Compruebe que las cadenas que se ven iguales se clasifiquen de forma coherente tanto en el original como en la copia normalizada.
- Compruebe que se aplique la misma política de seguridad aunque cambie la forma de expresar una solicitud de trabajo.
- Compruebe que las instrucciones incrustadas en documentos o resultados de búsqueda no modifiquen las políticas del modelo ni los permisos de las herramientas.
Normalizar antes de comprobar
Dos textos coreanos que se ven iguales en pantalla pueden tener representaciones Unicode distintas. Conserve la entrada original, normalice una copia con NFC o NFKC y compare ambas versiones. NFC unifica representaciones canónicamente equivalentes. NFKC también puede unificar caracteres de compatibilidad.
Registre la posición de cada hallazgo en la copia normalizada y su correspondencia con el original. Compruebe que el proceso respete el significado de las expresiones y los signos habituales del coreano. La normalización mejora la coherencia de las comprobaciones de texto. Aplique también límites de permisos independientes para que el contenido externo carezca de autoridad para utilizar herramientas.
Límites de los filtros
La normalización deja sin resolver aspectos como la cortesía, la simulación de roles y el significado de las instrucciones indirectas en documentos. OWASP LLM01:2026 Prompt Injection aconseja combinar la limitación de permisos, la aprobación humana y la separación del contenido externo.
En el informe de evaluación registramos qué herramientas podía invocar el agente y qué acciones permitía cada una. La revisión de permisos ayuda a estimar las consecuencias de un fallo del filtro. El apéndice puede documentar las categorías de entradas evaluadas.
Referencias
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- Multilingual Jailbreak Challenges in Large Language Models, Deng et al., ICLR 2024
- Defending LLM applications against Unicode character smuggling, AWS Security Blog, 2025.9
- UAX #15: Unicode Normalization Forms, Unicode Consortium


