
フィルターとモデルで異なる文字の解釈
禁止語リストや英語の攻撃文で学習した分類器を入力フィルターとして使うと、韓国語の入力に検知漏れが生じるおそれがあります。モデルとフィルターが同じ入力をどう解釈するか、利用言語ごとに確認してください。
言語による違いは研究でも確認されています。Dengらは、同じ有害な要求を複数の言語で入力したところ、学習リソースが少ない言語ほど安全でない応答の割合が高かったと報告しました(ICLR 2024)。モデルの安全性学習にも言語による差が見られます。
点検対象となる入力の変形
韓国語の入力を点検する際は、文字の表現形式、言い回しや文脈、外部文書やツールの応答に含まれる指示を個別に確認します。ユーザーには同じ文字に見えたり同じ意味に読めたりしても、システム内部の表現やリスク判定が異なる場合があります。
- 見た目が同じ文字列について、原文と正規化済みのコピーで分類が一致することを確認します。
- 業務上の依頼の言い回しが変わっても、同じセキュリティポリシーが適用されることを確認します。
- 文書や検索結果に含まれる指示で、モデルのポリシーやツールの権限が変更されないことを確認します。
検査前に文字列を正規化
画面に同じハングルが表示されても、Unicodeの内部表現が異なることがあります。検査では原文を保存し、コピーをNFCまたはNFKCで正規化して、原文と照合してください。NFCは正準等価な文字列の表現を統一し、NFKCは互換文字の表現も統一できます。
正規化済みのコピーで検知した箇所を原文と対応付けて記録し、通常の韓国語表現や記号の意味が変わっていないことを確認してください。正規化で文字列検査の一貫性を高めるとともに、外部コンテンツからツールの使用権限が変更されないよう、権限の境界を別途設けます。
フィルターと併用する対策
正規化を行っても、敬語やロールプレイによる変形、文書内の間接的な指示を文字列処理だけで検知するのは困難です。OWASP LLM01:2026 Prompt Injectionでは、権限の制限、担当者による承認、外部コンテンツの分離などの対策を組み合わせるよう勧めています。
当社は点検報告書で、フィルターを通過した入力が呼び出せるツールと、そのツールで実行できる操作の範囲を詳しく記録します。影響の大きさは、ツールに付与された権限によって決まります。
参考資料
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- Multilingual Jailbreak Challenges in Large Language Models, Deng et al., ICLR 2024
- Defending LLM applications against Unicode character smuggling, AWS Security Blog, 2025.9
- UAX #15: Unicode Normalization Forms, Unicode Consortium


