3 分钟产品导览 通过邮件报告紧急安全事件
安全博客

处理韩语输入时的安全检查项

仅靠面向英语设计的过滤器,很难覆盖韩语字符处理和外部文档引入的输入。
本文梳理了文本规范化、输入来源管理和权限验证的检查要点。

处理韩语输入时的安全检查项

过滤器检测到的字符与模型读取的字符

若输入过滤仅依赖敏感词表,或依赖用英语样本训练的分类器,处理韩语时就可能出现缺口。即使模型能理解韩语,前置过滤器也可能只识别英语句式或特定形式的字符串。请把韩语输入纳入过滤效果验证。

研究也证实了语言之间存在差异。Deng 等人将同一有害请求译成不同语言后发现,训练资源较少的语言产生不安全回答的比例更高(ICLR 2024)。模型安全训练的效果也会因语言而异。

测试时关注的变体类型

检查韩语输入时,可分别看字符表示、语气和上下文,以及外部文档或工具响应中夹带的指令。即使用户看到的字符或理解的含义相同,系统中的表示方式和风险判定也可能不同。

  • 检查外观相同的字符串在原文和规范化副本中能否得到一致的分类结果。
  • 检查业务请求的语气变化时,系统是否仍执行同一套安全策略。
  • 检查文档或搜索结果中夹带的指令能否改变模型策略或工具权限。

先规范化,再检查

屏幕上显示相同的韩文,Unicode 内部表示也可能不同。检查时请保留原文,用 NFC 或 NFKC 对副本进行规范化,再与原文对照。NFC 统一规范等价的字符序列,NFKC 还可统一兼容字符的表示形式。

将规范化副本中检出的位置映射回原文,并确认常见韩语表达和符号的含义没有在处理中改变。规范化可以提高字符串检查的一致性。还应单独设置权限边界,确保外部内容无法获得工具使用权限。

过滤只是其中一道防线

仅靠字符规范化无法识别敬语、角色扮演以及文档里的间接指令。OWASP LLM01:2026 Prompt Injection 指出,目前尚不明确能否彻底防止提示词注入,建议同时限制权限、引入人工审批并隔离外部内容。

检查报告重点记录通过过滤的指令能触发哪些工具,以及工具允许执行哪些操作。输入变体可列入附录。工具权限决定了事件可能造成的影响。

参考资料

和 Genox 谈
范围与时间。

联系我们