3-Minuten-Produkttour Dringender Vorfall per E-Mail
Sicherheitsblog

Sicherheitsprüfpunkte für die Verarbeitung koreanischsprachiger Eingaben

Auf Englisch ausgerichtete Filter erfassen Besonderheiten der koreanischen Textverarbeitung und Eingaben aus externen Dokumenten nur bedingt.
Worauf Sie bei Normalisierung, Herkunft von Eingaben und Berechtigungsprüfung achten sollten.

Sicherheitsprüfpunkte für die Verarbeitung koreanischsprachiger Eingaben

Was Filter prüfen und wie Modelle den Text verarbeiten

Sperrwortlisten und Klassifikatoren, die anhand englischer Beispiele trainiert wurden, können koreanische Eingaben unzureichend abdecken. Ein Modell kann Koreanisch gut verstehen, während der vorgeschaltete Filter nur auf englische Sätze oder festgelegte Zeichenfolgen abgestimmt ist. Prüfen Sie die Schutzwirkung daher für jede unterstützte Sprache.

Auch die Forschung belegt Unterschiede zwischen Sprachen. Deng et al. berichteten bei gleichen schädlichen Anfragen in verschiedenen Sprachen häufiger von unsicheren Antworten in Sprachen mit weniger verfügbaren Trainingsressourcen (ICLR 2024). Das deutet auf sprachabhängige Unterschiede beim Sicherheitstraining der Modelle hin.

Varianten für defensive Prüfungen

Berücksichtigen Sie bei koreanischen Eingaben die Zeichendarstellung, den Tonfall und Kontext sowie Anweisungen aus externen Dokumenten oder Werkzeugantworten. Was für Anwender gleich aussieht oder dasselbe bedeutet, kann intern unterschiedlich dargestellt und als unterschiedlich riskant bewertet werden.

  • Prüfen Sie, ob visuell identische Zeichenfolgen im Original und in der normalisierten Kopie einheitlich klassifiziert werden.
  • Prüfen Sie, ob dieselbe Sicherheitsrichtlinie auch bei unterschiedlich formulierten Arbeitsanfragen greift.
  • Prüfen Sie, ob Anweisungen in Dokumenten oder Suchergebnissen die Richtlinien des Modells oder seine Werkzeugberechtigungen unverändert lassen.

Eingaben vor der Prüfung normalisieren

Auch wenn koreanische Schriftzeichen auf dem Bildschirm identisch aussehen, kann sich ihre Unicode-Darstellung unterscheiden. Bewahren Sie das Original auf, normalisieren Sie eine Kopie mit NFC oder NFKC und vergleichen Sie beide Fassungen. NFC vereinheitlicht kanonisch äquivalente Darstellungen. NFKC kann auch kompatible Zeichen auf dieselbe Darstellung abbilden.

Ordnen Sie Fundstellen in der normalisierten Kopie den entsprechenden Stellen im Original zu. Prüfen Sie, ob gängige koreanische Ausdrücke und Zeichen ihre Bedeutung bei der Verarbeitung behalten. Normalisierung verbessert die Konsistenz der Zeichenprüfung. Setzen Sie zusätzlich Berechtigungsgrenzen durch, damit externe Inhalte keine Werkzeugrechte vermitteln.

Filter brauchen ergänzende Schutzmaßnahmen

Höflichkeitsformen, Rollenspiele und indirekte Anweisungen in Dokumenten bleiben auch nach der Normalisierung eine Herausforderung. OWASP LLM01:2026 Prompt Injection empfiehlt ergänzende Maßnahmen wie begrenzte Berechtigungen, Freigaben durch zuständige Personen und die Trennung externer Inhalte.

In unseren Prüfberichten steht deshalb im Vordergrund, welche Werkzeuge nach einer fehlgeschlagenen Erkennung erreichbar waren und welche Aktionen deren Berechtigungen zuließen. Die Prüffälle lassen sich im Anhang dokumentieren. Das mögliche Schadensausmaß ergibt sich aus den Werkzeugberechtigungen.

Quellen und weiterführende Informationen

Sprechen Sie mit unseren
Sicherheitsexperten.

Kontakt