
LLM01:2026
プロンプトインジェクション
プロンプトインジェクション
チャットと文書に含まれる指示
OWASP Top 10 for LLM Applications 2026は2026年8月3日に公開され、プロンプトインジェクションは引き続きLLM01:2026に分類されています。ユーザーがチャットに直接入力した指示と、メール、Wiki、添付ファイルなど、モデルが読む文書に含まれる指示を区別します。送信、削除、外部への呼び出しは、担当者が操作内容を確認してから実行します。
主な確認事項
今週の確認事項
- 社内チャットボットとエージェントが読み込む情報源を一覧にします。チャット、メール、Wiki、添付ファイル、検索結果が該当します。
- 直接入力された指示と、文書に含まれる指示を画面上で区別できることを確認します。文書のテキストは、ユーザーの指示と別の欄に表示します。
- 送金、データ削除、メール送信の前に、担当者が対象と内容を確認できることを確かめます。
- チャットボットやエージェントで発生した関連アラートは一つのインシデントにまとめ、判定とその根拠を併記します。隔離と遮断は、担当者の承認後に実行します。
Genoxは関連するアラートを一つのインシデントにまとめ、判定と根拠を併記します。社内チャットボットとエージェントでも、文書に含まれる指示に起因するツール呼び出しをインシデントとして記録し、担当者が措置を承認します。
参考資料
参考
- OWASP Top 10 for LLM Applications 2026、OWASP Gen AI Security Project、2026年8月3日。LLM01:2026 Prompt Injection
2026年11月10日確認