3-Minuten-Produkttour Dringender Vorfall per E-Mail
LLM01:2026

Prompt-Injection
Anweisungen in Chats und Dokumenten

Die OWASP Top 10 for LLM Applications 2026 wurden am 3. August 2026 veröffentlicht. Prompt-Injection wird weiterhin unter LLM01:2026 geführt. Unterscheiden Sie Anweisungen, die eine Person direkt in den Chat eingibt, von Anweisungen in E-Mails, Wikis oder Anhängen, die das Modell liest. Lassen Sie Versand, Löschung und externe Aufrufe vor der Ausführung prüfen.

Wichtige Prüfpunkte

Diese Woche im Blick

  • Erfassen Sie alle Quellen, aus denen interne Chatbots und Agenten Inhalte lesen, etwa Chats, E-Mails, Wikis, Anhänge und Suchergebnisse.
  • Prüfen Sie, ob sich direkte Eingaben und Anweisungen aus Dokumenten in der Oberfläche unterscheiden lassen. Dokumenttexte und Benutzeranweisungen gehören in getrennte Bereiche.
  • Prüfen Sie, ob eine Person Ziel und Inhalt prüft, bevor eine Zahlung, Datenlöschung oder ein E-Mail-Versand ausgelöst wird.
  • Fassen Sie Warnmeldungen von Chatbots und Agenten zu einem Vorfall zusammen und halten Sie die Gründe bei der Bewertung fest. Isolations- und Sperrmaßnahmen erfolgen nach Freigabe durch die zuständige Person.

Genox fasst zusammengehörige Warnmeldungen zu einem Vorfall zusammen und dokumentiert die Nachweise bei der Bewertung. Für interne Chatbots und Agenten gilt derselbe Grundsatz. Halten Sie durch Dokumentinhalte ausgelöste Aufrufe als Vorfälle fest und lassen Sie Maßnahmen freigeben.

Quellen und weiterführende Informationen

Hinweis

Geprüft am 10. November 2026

Sprechen Sie mit unseren
Sicherheitsexperten.

Kontakt