3分でわかる製品ツアー 緊急インシデントのメール連絡
LLM03:2026

業務に必要な範囲をツール権限が超えると
誤った判断がそのまま実行される

OWASP Top 10 for LLM Applications 2026では、過剰なエージェンシーはLLM03:2026です。2025年版ではLLM06でした。社内チャットボットとエージェントの点検では、ツールを外せるか、認証情報が担当者より広い権限を持つか、送金・削除・メール送信の前に担当者が承認するかを確認します。

主な確認事項

今週の確認事項

  • ツールを外しても業務を完了できるかを確認します。照会だけで足りる場合は、削除、送信、デプロイの機能を外します。
  • 認証情報で実行できる操作が、担当者本人の権限内に収まるか確認します。共有の管理者キーや書き込み可能な本番アカウントは、担当者の権限を超える場合があります。
  • 送金、データ削除、メール送信の前に、担当者が操作を止められることを確認します。サーバーが付けた「読み取り専用」のラベルがあっても、必要な承認を求めます。
  • 権限外のツール呼び出しでアラートが出た場合は、関連するアラートを一つのインシデントにまとめ、アカウントとツールを判定とともに記録します。隔離と遮断は担当者の承認後に実行します。

Genoxは関連するアラートを一つのインシデントにまとめ、判定と根拠を併記します。社内チャットボットとエージェントのツール一覧も同じ三つの質問で点検し、隔離と遮断は担当者が承認します。

参考資料

参考

2026年11月10日確認

範囲と時期を
Genoxにご相談ください。

お問い合わせ