
LLM01:2026
提示词注入:
提示词注入:
聊天和文档中的指令
OWASP Top 10 for LLM Applications 2026 于 2026 年 8 月 3 日发布,提示词注入仍为 LLM01:2026。请区分用户直接输入聊天框的指令,以及夹带在模型读取的邮件、Wiki、附件等文档中的指令。发送、删除和外部调用须经人工查看后执行。
重点检查项
本周关注
- 列出内部聊天机器人和智能体读取内容的渠道,例如聊天、邮件、Wiki、附件和搜索结果。
- 确认界面能区分用户的直接输入与文档中夹带的指令。文档文本应与用户指令分开显示。
- 确认在转账、删除数据或发出邮件前,人员能看到操作对象和具体内容。
- 将聊天机器人和智能体触发的相关告警归并为一个事件,并记录判定及理由。隔离和阻断须在负责人审批后执行。
Genox 将相关告警归并为一个事件,并保留判定依据。内部聊天机器人和智能体也可采用同样的做法。记录由文档中指令触发的调用,交由人工批准处置。
参考资料
参考
- OWASP Top 10 for LLM Applications 2026,OWASP Gen AI Security Project,2026 年 8 月 3 日。LLM01:2026 Prompt Injection
于 2026 年 11 月 10 日核实