
LLM03:2026
Cuando una herramienta tiene más permisos de los necesarios,
Cuando una herramienta tiene más permisos de los necesarios,
un error puede convertirse en una acción
OWASP Top 10 for LLM Applications 2026 identifica el exceso de autonomía como LLM03:2026. En la lista de 2025 figuraba como LLM06. Esta semana, haga tres preguntas sobre los chatbots y agentes internos. ¿Es necesaria la herramienta? ¿Sus credenciales superan las atribuciones de la persona responsable? ¿Las transferencias, eliminaciones y envíos esperan aprobación humana?
Puntos clave de revisión
Qué revisar esta semana
- Compruebe si puede completar la tarea sin esa herramienta. Si basta con consultar, retire los permisos de eliminación, envío y despliegue.
- Compruebe que las credenciales solo permitan acciones dentro de las atribuciones de la persona responsable. Una clave de administración compartida o una cuenta de producción con permisos de escritura pueden superar ese alcance.
- Compruebe que una persona pueda detener una transferencia de dinero, una eliminación de datos o un envío de correo antes de su ejecución. Mantenga la aprobación aunque el servidor marque la herramienta como «solo lectura».
- Si una llamada fuera de los permisos genera una alerta, agrúpela con las alertas relacionadas en un incidente. Registre la cuenta y la herramienta junto al dictamen. El aislamiento y el bloqueo se ejecutan tras la aprobación de una persona responsable.
Genox agrupa estas alertas en un incidente y registra la evidencia junto al dictamen. Aplique las mismas tres preguntas a las herramientas de los chatbots y agentes internos. El aislamiento y el bloqueo requieren aprobación humana.
Referencias
Referencias
- OWASP Top 10 for LLM Applications 2026, OWASP Gen AI Security Project, 3 de agosto de 2026. LLM03:2026 Excessive Agency
- Especificación de Model Context Protocol del 2026-07-28, las anotaciones solo se consideran fiables si proceden de un servidor de confianza. Consentimiento del usuario antes de la llamada.
Consultado el 10 de noviembre de 2026