Tour del producto en 3 min Correo para incidentes urgentes
LLM03:2026

Cuando una herramienta tiene más permisos de los necesarios,
un error puede convertirse en una acción

OWASP Top 10 for LLM Applications 2026 identifica el exceso de autonomía como LLM03:2026. En la lista de 2025 figuraba como LLM06. Esta semana, haga tres preguntas sobre los chatbots y agentes internos. ¿Es necesaria la herramienta? ¿Sus credenciales superan las atribuciones de la persona responsable? ¿Las transferencias, eliminaciones y envíos esperan aprobación humana?

Puntos clave de revisión

Qué revisar esta semana

  • Compruebe si puede completar la tarea sin esa herramienta. Si basta con consultar, retire los permisos de eliminación, envío y despliegue.
  • Compruebe que las credenciales solo permitan acciones dentro de las atribuciones de la persona responsable. Una clave de administración compartida o una cuenta de producción con permisos de escritura pueden superar ese alcance.
  • Compruebe que una persona pueda detener una transferencia de dinero, una eliminación de datos o un envío de correo antes de su ejecución. Mantenga la aprobación aunque el servidor marque la herramienta como «solo lectura».
  • Si una llamada fuera de los permisos genera una alerta, agrúpela con las alertas relacionadas en un incidente. Registre la cuenta y la herramienta junto al dictamen. El aislamiento y el bloqueo se ejecutan tras la aprobación de una persona responsable.

Genox agrupa estas alertas en un incidente y registra la evidencia junto al dictamen. Aplique las mismas tres preguntas a las herramientas de los chatbots y agentes internos. El aislamiento y el bloqueo requieren aprobación humana.

Referencias

Referencias

Consultado el 10 de noviembre de 2026

Hable con un experto
en seguridad de Genox.

Hable con nosotros