
Revisamos los permisos y los flujos de datos
de las aplicaciones de IA
Revisamos el procesamiento de entradas, los permisos de herramientas y los riesgos de la cadena de suministro en chatbots internos, sistemas de generación aumentada por recuperación (RAG), agentes de IA y modelos externos. En la consulta puede confirmar el alcance de la evaluación y los entregables. La demostración presenta escenarios hipotéticos.
En funcionamientoLa evaluación abarca escenarios de inyección de instrucciones, descripciones de herramientas MCP, permisos excesivos y riesgos de paquetes de la cadena de suministro. La demostración es una simulación. Criterios del servicio
Alcance y metodología del servicio
Nodos de análisis dedicados por cliente
El análisis se ejecuta en nodos dedicados a cada cliente. Los recursos de cómputo y almacenamiento son exclusivos de cada cliente.
Cada dictamen conserva su evidencia
Un solo registro identifica el motor que emitió el dictamen, los registros en que se basó y la medida que recomendó. Puede presentar ese registro directamente en una auditoría.
Volvemos a ejecutar evaluaciones anteriores
Se registran las versiones del modelo y de la política que se usaron para cada dictamen. Si hay dudas sobre un dictamen del mes anterior, puede volver a ejecutar la evaluación con los mismos datos y comparar el resultado.
La decisión final la toma una persona
La IA clasifica y resume las alertas. Un analista autoriza las respuestas. El aislamiento de servidores y el bloqueo de cuentas requieren aprobación humana.
Servicios de evaluación de seguridad de IA
Evaluación de aplicaciones con LLM
Evaluamos chatbots, sistemas RAG y servicios internos de IA en 20 puntos.
Más informaciónEvaluación de agentes de IA y MCP
Revisamos los permisos de herramientas de los agentes, sus relaciones de delegación y sus conexiones MCP.
Más informaciónEvaluación de modelos y cadena de suministro
Revisamos la seguridad de los modelos, conjuntos de datos y complementos recibidos de terceros.
Más informaciónEvaluación de aplicaciones con LLM
La evaluación comprende 20 puntos basados en OWASP LLM Top 10 e incorpora amenazas relacionadas con agentes de IA y requisitos de la normativa surcoreana. Los escenarios de prueba se ajustan a la arquitectura del servicio. El entorno interactivo es una simulación.
Características destacadas
20 puntos de revisión
A los puntos de OWASP LLM Top 10 añadimos amenazas relacionadas con agentes y requisitos de la normativa surcoreana.
Entorno de experimentación aislado
Las entradas de prueba y los archivos generados permanecen dentro del entorno.
Evidencias de reproducción adjuntas
Para cada vulnerabilidad adjuntamos la entrada de prueba y la respuesta que produjo el sistema.
Propuesta de reglas de protección
Para cada vulnerabilidad detectada, proporcionamos reglas de protección y filtrado que se pueden aplicar.
20 puntos principales de evaluación
| Clasificación | Puntos de evaluación | Descripción | Nivel de riesgo |
|---|---|---|---|
| Entrada | Inyección directa de instrucciones | Anulación de instrucciones del sistema o suplantación de roles | Alto |
| Entrada | Inyección indirecta de instrucciones | Ejecución de instrucciones ocultas en documentos, páginas web o correos | Alto |
| Entrada | Elusión de controles (jailbreak) | Respuestas que eluden las políticas de seguridad | Medio |
| Entrada | Elusión mediante distintos idiomas o codificaciones | Resistencia de los filtros ante variantes en coreano y entradas codificadas en Base64 | Medio |
| Datos | Filtración de las instrucciones del sistema | Exposición de instrucciones internas y lógica de negocio | Medio |
| Datos | Exposición de información sensible | Exposición de datos personales o secretos comerciales en las respuestas | Alto |
| Datos | Elusión de permisos de RAG | Exposición en los resultados de búsqueda de documentos fuera del alcance de los permisos del usuario | Alto |
| Datos | Extracción de datos de entrenamiento | Reproducción literal de datos de entrenamiento memorizados por el modelo | Medio |
| Agentes | Permisos excesivos de las herramientas | Herramientas o API conectadas con más permisos de los necesarios | Alto |
| Agentes | Manipulación de llamadas a herramientas | Intentos de provocar envíos de correo o consultas a bases de datos mediante inyección de instrucciones | Alto |
| Agentes | Suplantación de servidores MCP | Conexión a un servidor MCP malicioso o manipulado | Alto |
| Agentes | Elusión de la aprobación | Intentos de saltarse una etapa que requiere aprobación humana | Medio |
| Salida | Tratamiento inadecuado de las salidas | Ejecución directa de la salida del modelo como código o consulta | Alto |
| Salida | Generación de contenido perjudicial | Generación de contenido que infringe la política | Medio |
| Salida | Información errónea por alucinaciones | Generación de datos sin fundamento o enlaces inexistentes | Bajo |
| Cadena de suministro | Manipulación de archivos de modelos | Archivos de serialización maliciosos y modelos con puertas traseras | Alto |
| Cadena de suministro | Envenenamiento de datos | Contaminación de datos de ajuste fino y RAG | Medio |
| Operaciones | Agotamiento de recursos | Aumento desproporcionado del coste o interrupción por exceso de tokens o llamadas | Medio |
| Operaciones | Ausencia de registros y auditoría | Falta de registro de instrucciones y llamadas a herramientas | Bajo |
| Gobernanza | Alineación normativa | Incumplimiento de requisitos de la Ley Marco de IA y de la Ley de Protección de Datos Personales de Corea del Sur | Bajo |
Etapas del servicio
Modelado de amenazas
Revisamos la arquitectura del servicio y los flujos de datos
- Modelo de amenazas
Pruebas de seguridad automatizadas
Ejecutamos automáticamente pruebas con entradas adversarias
- Resultados de la evaluación automatizada
Reproducción
Reproducimos los escenarios de cada punto y documentamos los resultados
- Lista de vulnerabilidades
Diseño de medidas de protección
Proponemos reglas de protección y mejoras de permisos
- Guía de protección
Verificación posterior
Repetimos las pruebas tras aplicar las correcciones
- Informe de verificación de medidas correctivas
Preguntas frecuentes
¿Hay que enviar el modelo fuera de nuestro entorno?
Realizamos la evaluación dentro del entorno del cliente o en el entorno aislado de Research Lab. Los datos de prueba permanecen en el entorno.
¿Puede ayudar a cumplir la Ley Marco de IA de Corea del Sur?
El informe identifica por separado los puntos relacionados con la gestión de riesgos de IA de alto impacto.
Amplíe la información con estos contenidos relacionados
Evaluación de agentes de IA y MCP
Elaboramos un inventario de las herramientas, API y servidores MCP que los agentes de IA pueden invocar, junto con sus permisos.
Después comprobamos si el agente protege el envío de correos y las consultas a bases de datos frente a instrucciones no autorizadas procedentes de documentos o mensajes.
Características destacadas
Mapa de permisos
Mostramos en un solo mapa a qué herramientas y datos puede acceder cada agente.
Análisis de las relaciones de delegación
Seguimos cómo se transfieren los permisos cuando un agente llama a otro.
Verificación de servidores MCP
Verificamos el origen, la versión y la firma de los servidores MCP conectados.
Reglas de monitorización de llamadas a herramientas
Documentamos el patrón habitual de llamadas a herramientas y proporcionamos reglas para detectar desviaciones.
Etapas del servicio
Inventario
Inventariamos los agentes, las herramientas y los servidores MCP
- Mapa de permisos
Ataque
Evaluamos la resistencia a la manipulación de llamadas a herramientas
- Lista de vulnerabilidades
Mejora
Indicamos qué permisos conviene reducir
- Propuestas de mejora de permisos
Monitorización
Aplicamos reglas de detección basadas en el comportamiento
- Reglas de detección
Amplíe la información con estos contenidos relacionados
Evaluación de modelos y cadena de suministro
Inspeccionamos los archivos de modelos, conjuntos de datos y complementos descargados de repositorios públicos para detectar código malicioso o datos contaminados.
Características destacadas
Inspección de archivos de modelos
Buscamos código que se ejecute al cargar archivos serializados de modelos, como los de formato pickle.
Elaboración de un AI-BOM
Organizamos un inventario de los modelos, datos y bibliotecas en uso para que pueda mantenerlo al día.
Ejecución en un entorno aislado
Ejecutamos el modelo en el entorno aislado de Research Lab para comprobar si muestra un comportamiento anómalo.
Definición del procedimiento de incorporación
Le ayudamos a establecer un procedimiento interno para verificar el origen y la integridad antes de aprobarlos.
Etapas del servicio
Inventario
Inventariamos los modelos y datos que se utilizan
- AI-BOM
Análisis estático
Buscamos código oculto en los archivos
- Resultados de la inspección
Evaluación en ejecución
Probamos la ejecución en un entorno aislado
- Resultados de la evaluación
Definición de políticas
Diseñamos un proceso para que solo se utilicen modelos aprobados
- Documento de política de incorporación
Amplíe la información con estos contenidos relacionados

Consulta para implementar servicios de seguridad
Si nos indica su entorno operativo y el alcance de seguridad que necesita, le orientaremos sobre las configuraciones aplicables.



