
LLM03:2026
工具权限超过业务所需时,
工具权限超过业务所需时,
误操作可能直接生效
在 OWASP Top 10 for LLM Applications 2026 中,自主权限过大编号为 LLM03:2026,2025 年版编号为 LLM06。本周可以对内部聊天机器人和智能体提三个问题。能否移除此工具?凭据是否超出人员权限?资金划转、数据删除和邮件发送是否都要等待人工审批?
重点检查项
本周关注
- 检查移除该工具后是否还能完成工作。如果工具同时支持查询、删除、发送和部署,而业务只需查询,就仅保留查询权限。
- 核对该凭据允许的操作是否都在负责人本人的权限范围内。共享管理员密钥和可写入生产环境的账号可能超出个人权限。
- 确认资金划转、数据删除和邮件发送前,人工是否有机会拦截。服务器标注的“只读”不能作为跳过审批的依据。
- 如果越权调用触发告警,应将相关告警归并为一个事件,并在判定中记录涉及的账号和工具。隔离和阻断须在负责人审批后执行。
Genox 将此类告警归并为一个事件,并保留判定依据。检查内部聊天机器人和智能体的工具清单时,也可使用相同的三个问题。隔离和阻断须经人工审批。
参考资料
参考
- OWASP Top 10 for LLM Applications 2026,OWASP Gen AI Security Project,2026 年 8 月 3 日。LLM03:2026 Excessive Agency
- Model Context Protocol 规范(2026-07-28),仅信任来自可信服务器的工具注解。调用前须获得用户同意。
于 2026 年 11 月 10 日核实