
LLM03:2026
業務に必要な範囲をツール権限が超えると
業務に必要な範囲をツール権限が超えると
誤った判断がそのまま実行される
OWASP Top 10 for LLM Applications 2026では、過剰なエージェンシーはLLM03:2026です。2025年版ではLLM06でした。社内チャットボットとエージェントの点検では、ツールを外せるか、認証情報が担当者より広い権限を持つか、送金・削除・メール送信の前に担当者が承認するかを確認します。
主な確認事項
今週の確認事項
- ツールを外しても業務を完了できるかを確認します。照会だけで足りる場合は、削除、送信、デプロイの機能を外します。
- 認証情報で実行できる操作が、担当者本人の権限内に収まるか確認します。共有の管理者キーや書き込み可能な本番アカウントは、担当者の権限を超える場合があります。
- 送金、データ削除、メール送信の前に、担当者が操作を止められることを確認します。サーバーが付けた「読み取り専用」のラベルがあっても、必要な承認を求めます。
- 権限外のツール呼び出しでアラートが出た場合は、関連するアラートを一つのインシデントにまとめ、アカウントとツールを判定とともに記録します。隔離と遮断は担当者の承認後に実行します。
Genoxは関連するアラートを一つのインシデントにまとめ、判定と根拠を併記します。社内チャットボットとエージェントのツール一覧も同じ三つの質問で点検し、隔離と遮断は担当者が承認します。
参考資料
参考
- OWASP Top 10 for LLM Applications 2026、OWASP Gen AI Security Project、2026年8月3日。LLM03:2026 Excessive Agency
- Model Context Protocol仕様 2026-07-28、ツールの注釈は信頼できるサーバーのものに限り信頼する。呼び出し前にユーザーの同意を得る。
2026年11月10日確認