3分でわかる製品ツアー 緊急インシデントのメール連絡
LLM01:2026

プロンプトインジェクション
チャットと文書に含まれる指示

OWASP Top 10 for LLM Applications 2026は2026年8月3日に公開され、プロンプトインジェクションは引き続きLLM01:2026に分類されています。ユーザーがチャットに直接入力した指示と、メール、Wiki、添付ファイルなど、モデルが読む文書に含まれる指示を区別します。送信、削除、外部への呼び出しは、担当者が操作内容を確認してから実行します。

主な確認事項

今週の確認事項

  • 社内チャットボットとエージェントが読み込む情報源を一覧にします。チャット、メール、Wiki、添付ファイル、検索結果が該当します。
  • 直接入力された指示と、文書に含まれる指示を画面上で区別できることを確認します。文書のテキストは、ユーザーの指示と別の欄に表示します。
  • 送金、データ削除、メール送信の前に、担当者が対象と内容を確認できることを確かめます。
  • チャットボットやエージェントで発生した関連アラートは一つのインシデントにまとめ、判定とその根拠を併記します。隔離と遮断は、担当者の承認後に実行します。

Genoxは関連するアラートを一つのインシデントにまとめ、判定と根拠を併記します。社内チャットボットとエージェントでも、文書に含まれる指示に起因するツール呼び出しをインシデントとして記録し、担当者が措置を承認します。

参考資料

参考

2026年11月10日確認

範囲と時期を
Genoxにご相談ください。

お問い合わせ