
LLM03:2026
Wenn Werkzeuge mehr dürfen als für die Aufgabe nötig
Wenn Werkzeuge mehr dürfen als für die Aufgabe nötig
können Fehler direkt wirksam werden
In den OWASP Top 10 for LLM Applications 2026 steht übermäßiger Handlungsspielraum unter LLM03:2026. In der Liste von 2025 wurde er unter LLM06 geführt. Stellen Sie Ihren internen Chatbots und Agenten diese Woche drei Fragen. Ist das Werkzeug erforderlich? Gehen seine Zugangsdaten über die Rechte der zuständigen Person hinaus? Warten Zahlungen, Löschungen und E-Mail-Versand auf menschliche Freigabe?
Wichtige Prüfpunkte
Diese Woche im Blick
- Prüfen Sie, ob sich die Aufgabe auch ohne dieses Werkzeug erledigen lässt. Sind neben der Abfrage auch Löschung, Versand oder Bereitstellung möglich, beschränken Sie den Zugriff auf die Abfrage.
- Prüfen Sie, ob der Berechtigungsumfang der Zugangsdaten innerhalb der Rechte der zuständigen Person liegt. Gemeinsam verwendete Administratorschlüssel und Produktivkonten mit Schreibrechten können darüber hinausgehen.
- Prüfen Sie, ob eine Person eingreifen kann, bevor eine Zahlung, eine Datenlöschung oder ein E-Mail-Versand ausgelöst wird. Auch bei einer serverseitigen Kennzeichnung als „nur lesend“ bleibt die Freigabe erforderlich.
- Fassen Sie Warnmeldungen zu unzulässigen Aufrufen zu einem Vorfall zusammen und dokumentieren Sie das Konto und Werkzeug bei der Bewertung. Isolations- und Sperrmaßnahmen erfolgen nach Freigabe durch die zuständige Person.
Genox fasst solche Warnmeldungen zu einem Vorfall zusammen und dokumentiert die Nachweise bei der Bewertung. Prüfen Sie die Werkzeuge Ihrer Chatbots und Agenten anhand derselben drei Fragen und lassen Sie Isolations- und Sperrmaßnahmen freigeben.
Quellen und weiterführende Informationen
Hinweis
- OWASP Top 10 for LLM Applications 2026, OWASP Gen AI Security Project, 3. August 2026. LLM03:2026 Excessive Agency
- Model Context Protocol, Spezifikation vom 28. Juli 2026, Werkzeugannotationen sind nur bei vertrauenswürdigen Servern belastbar. Nutzereinwilligung vor dem Aufruf.
Geprüft am 10. November 2026