Tour del producto en 3 min Correo para incidentes urgentes
Blog de seguridad

Qué revisar en la seguridad del procesamiento de entradas en coreano

Los filtros diseñados para el inglés tienen dificultades con ciertas representaciones del texto coreano y con las entradas procedentes de documentos externos.
Controles de normalización, procedencia de las entradas y validación de permisos.

Qué revisar en la seguridad del procesamiento de entradas en coreano

Qué compara el filtro y qué lee el modelo

Un filtro basado en listas de términos o en clasificadores entrenados con ejemplos en inglés puede dejar lagunas al procesar coreano. El modelo comprende el idioma, mientras que el filtro puede depender de patrones en inglés o de una representación textual concreta.

Deng y colaboradores compararon las mismas solicitudes dañinas en varios idiomas. En su estudio, los idiomas con menos recursos de entrenamiento registraron más respuestas inseguras (ICLR 2024). El comportamiento de seguridad de un modelo puede variar según el idioma.

Variantes que conviene evaluar

Al evaluar entradas en coreano, revise por separado la representación de los caracteres, el tono y el contexto, y las instrucciones incluidas en documentos externos o en respuestas de herramientas. Lo que el usuario ve como el mismo texto o interpreta con el mismo sentido puede tener otra representación interna y recibir una clasificación de riesgo distinta.

  • Compruebe que las cadenas que se ven iguales se clasifiquen de forma coherente tanto en el original como en la copia normalizada.
  • Compruebe que se aplique la misma política de seguridad aunque cambie la forma de expresar una solicitud de trabajo.
  • Compruebe que las instrucciones incrustadas en documentos o resultados de búsqueda no modifiquen las políticas del modelo ni los permisos de las herramientas.

Normalizar antes de comprobar

Dos textos coreanos que se ven iguales en pantalla pueden tener representaciones Unicode distintas. Conserve la entrada original, normalice una copia con NFC o NFKC y compare ambas versiones. NFC unifica representaciones canónicamente equivalentes. NFKC también puede unificar caracteres de compatibilidad.

Registre la posición de cada hallazgo en la copia normalizada y su correspondencia con el original. Compruebe que el proceso respete el significado de las expresiones y los signos habituales del coreano. La normalización mejora la coherencia de las comprobaciones de texto. Aplique también límites de permisos independientes para que el contenido externo carezca de autoridad para utilizar herramientas.

Límites de los filtros

La normalización deja sin resolver aspectos como la cortesía, la simulación de roles y el significado de las instrucciones indirectas en documentos. OWASP LLM01:2026 Prompt Injection aconseja combinar la limitación de permisos, la aprobación humana y la separación del contenido externo.

En el informe de evaluación registramos qué herramientas podía invocar el agente y qué acciones permitía cada una. La revisión de permisos ayuda a estimar las consecuencias de un fallo del filtro. El apéndice puede documentar las categorías de entradas evaluadas.

Referencias

Hable con un experto
en seguridad de Genox.

Hable con nosotros