3 分钟产品导览 通过邮件报告紧急安全事件
LLM01:2026

提示词注入:
聊天和文档中的指令

OWASP Top 10 for LLM Applications 2026 于 2026 年 8 月 3 日发布,提示词注入仍为 LLM01:2026。请区分用户直接输入聊天框的指令,以及夹带在模型读取的邮件、Wiki、附件等文档中的指令。发送、删除和外部调用须经人工查看后执行。

重点检查项

本周关注

  • 列出内部聊天机器人和智能体读取内容的渠道,例如聊天、邮件、Wiki、附件和搜索结果。
  • 确认界面能区分用户的直接输入与文档中夹带的指令。文档文本应与用户指令分开显示。
  • 确认在转账、删除数据或发出邮件前,人员能看到操作对象和具体内容。
  • 将聊天机器人和智能体触发的相关告警归并为一个事件,并记录判定及理由。隔离和阻断须在负责人审批后执行。

Genox 将相关告警归并为一个事件,并保留判定依据。内部聊天机器人和智能体也可采用同样的做法。记录由文档中指令触发的调用,交由人工批准处置。

参考资料

参考

于 2026 年 11 月 10 日核实

和 Genox 谈
范围与时间。

联系我们