
Was Filter prüfen und wie Modelle den Text verarbeiten
Sperrwortlisten und Klassifikatoren, die anhand englischer Beispiele trainiert wurden, können koreanische Eingaben unzureichend abdecken. Ein Modell kann Koreanisch gut verstehen, während der vorgeschaltete Filter nur auf englische Sätze oder festgelegte Zeichenfolgen abgestimmt ist. Prüfen Sie die Schutzwirkung daher für jede unterstützte Sprache.
Auch die Forschung belegt Unterschiede zwischen Sprachen. Deng et al. berichteten bei gleichen schädlichen Anfragen in verschiedenen Sprachen häufiger von unsicheren Antworten in Sprachen mit weniger verfügbaren Trainingsressourcen (ICLR 2024). Das deutet auf sprachabhängige Unterschiede beim Sicherheitstraining der Modelle hin.
Varianten für defensive Prüfungen
Berücksichtigen Sie bei koreanischen Eingaben die Zeichendarstellung, den Tonfall und Kontext sowie Anweisungen aus externen Dokumenten oder Werkzeugantworten. Was für Anwender gleich aussieht oder dasselbe bedeutet, kann intern unterschiedlich dargestellt und als unterschiedlich riskant bewertet werden.
- Prüfen Sie, ob visuell identische Zeichenfolgen im Original und in der normalisierten Kopie einheitlich klassifiziert werden.
- Prüfen Sie, ob dieselbe Sicherheitsrichtlinie auch bei unterschiedlich formulierten Arbeitsanfragen greift.
- Prüfen Sie, ob Anweisungen in Dokumenten oder Suchergebnissen die Richtlinien des Modells oder seine Werkzeugberechtigungen unverändert lassen.
Eingaben vor der Prüfung normalisieren
Auch wenn koreanische Schriftzeichen auf dem Bildschirm identisch aussehen, kann sich ihre Unicode-Darstellung unterscheiden. Bewahren Sie das Original auf, normalisieren Sie eine Kopie mit NFC oder NFKC und vergleichen Sie beide Fassungen. NFC vereinheitlicht kanonisch äquivalente Darstellungen. NFKC kann auch kompatible Zeichen auf dieselbe Darstellung abbilden.
Ordnen Sie Fundstellen in der normalisierten Kopie den entsprechenden Stellen im Original zu. Prüfen Sie, ob gängige koreanische Ausdrücke und Zeichen ihre Bedeutung bei der Verarbeitung behalten. Normalisierung verbessert die Konsistenz der Zeichenprüfung. Setzen Sie zusätzlich Berechtigungsgrenzen durch, damit externe Inhalte keine Werkzeugrechte vermitteln.
Filter brauchen ergänzende Schutzmaßnahmen
Höflichkeitsformen, Rollenspiele und indirekte Anweisungen in Dokumenten bleiben auch nach der Normalisierung eine Herausforderung. OWASP LLM01:2026 Prompt Injection empfiehlt ergänzende Maßnahmen wie begrenzte Berechtigungen, Freigaben durch zuständige Personen und die Trennung externer Inhalte.
In unseren Prüfberichten steht deshalb im Vordergrund, welche Werkzeuge nach einer fehlgeschlagenen Erkennung erreichbar waren und welche Aktionen deren Berechtigungen zuließen. Die Prüffälle lassen sich im Anhang dokumentieren. Das mögliche Schadensausmaß ergibt sich aus den Werkzeugberechtigungen.
Quellen und weiterführende Informationen
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- Multilingual Jailbreak Challenges in Large Language Models, Deng et al., ICLR 2024
- Defending LLM applications against Unicode character smuggling, AWS Security Blog, 2025.9
- UAX #15: Unicode Normalization Forms, Unicode Consortium


