3-Minuten-Produkttour Dringender Vorfall per E-Mail
KI-Rahmengesetz

Das KI-Rahmengesetz prüfen,
auch bei Sicherheits-KI

Das koreanische Rahmengesetz zur Entwicklung von künstlicher Intelligenz und zur Schaffung einer Vertrauensgrundlage (KI-Rahmengesetz, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」) trat am 22. Januar 2026 in Kraft. Es gilt auch für KI-Produkte und -Dienste ausländischer Unternehmen, die in Korea angeboten werden. KI zur Sicherheitsüberwachung gilt selten von vornherein als KI mit erheblichen Auswirkungen. Jeder KI-Anbieter muss diese Einordnung jedoch vorab prüfen. Hier erfahren Sie, wie Sie die dafür und für spätere Auskünfte nötigen Nachweise führen.

Anforderungen

Was das Gesetz vorgibt

Das Gesetz Nr. 20676 wurde am 21. Januar 2025 verkündet. Nach seinen Schlussbestimmungen trat es ein Jahr nach der Verkündung in Kraft. Die Übersicht konzentriert sich auf die für den Sicherheitsbetrieb relevanten Vorschriften.

VorschriftInhalt
Artikel 2(4)
KI mit erheblichen Auswirkungen
KI-Systeme, die menschliches Leben, körperliche Sicherheit oder Grundrechte erheblich beeinflussen oder gefährden können, wenn sie in einem gesetzlich genannten Bereich eingesetzt werden. Dazu zählen Energieversorgung, Trinkwassererzeugung, Gesundheitsversorgung, Medizinprodukte, kerntechnische Anlagen, Analyse biometrischer Informationen zur Strafverfolgung, Entscheidungen mit erheblichen Auswirkungen auf Rechte und Pflichten Einzelner wie Einstellungen oder Kreditprüfungen, Verkehr, Entscheidungen staatlicher und vergleichbarer Stellen zu öffentlichen Dienstleistungen, Leistungsbeurteilungen von Lernenden sowie Bereiche, die eine Präsidialverordnung festlegt.
Artikel 2(7)
KI-Anbieter
Entwickler, die KI entwickeln und bereitstellen, sowie Unternehmen, die mit dieser KI Produkte oder Dienste anbieten.
Artikel 3(2)Betroffene sollen eine verständliche und aussagekräftige Erklärung der maßgeblichen Kriterien und Grundsätze erhalten können, die zum KI-Ergebnis geführt haben, soweit das technisch und mit vertretbarem Aufwand möglich ist.
Artikel 31
Transparenzpflichten
Weisen Sie vorab darauf hin, dass ein Produkt oder Dienst auf KI mit erheblichen Auswirkungen oder auf generativer KI beruht. Kennzeichnen Sie generativ erzeugte Inhalte. Audio-, Bild- oder Videoinhalte, die sich schwer von der Realität unterscheiden lassen, sind so zu kennzeichnen oder anzukündigen, dass Nutzende sie eindeutig erkennen können.
Artikel 33
Vorabprüfung der Einordnung
Vor der Bereitstellung eines KI-Produkts oder -Dienstes müssen Anbieter prüfen, ob KI mit erheblichen Auswirkungen vorliegt. Bei Bedarf können sie das koreanische Ministerium für Wissenschaft und IKT um Bestätigung bitten.
Artikel 34
Pflichten der Anbieter
Erstellen und betreiben Sie unter anderem einen Risikomanagementplan, ein Konzept zur Erklärung von Ergebnissen, Hauptkriterien und der Übersicht über Trainingsdaten, Maßnahmen zum Schutz der Nutzenden und zur menschlichen Aufsicht. Dokumentieren Sie die Maßnahmen für Sicherheit und Zuverlässigkeit und bewahren Sie die Nachweise auf.
Artikel 35
Folgenabschätzung
Anbieter von Produkten oder Diensten mit KI mit erheblichen Auswirkungen sollen sich um eine Folgenabschätzung für die Grundrechte bemühen. Staatliche und vergleichbare Stellen bevorzugen Produkte und Dienste, die eine solche Prüfung durchlaufen haben.
Artikel 43
Bußgelder
Bis zu 30 Millionen KRW, etwa bei unterlassener Mitteilung nach Artikel 31(1).
Einordnung

Wann kann Sicherheits-KI erhebliche Auswirkungen haben?

Das Gesetz führt Cybersicherheit nicht als eigenen Bereich auf. Nach unserer Einschätzung fällt der Großteil der KI-Systeme zur Klassifizierung von Schadsoftware oder Gruppierung von Einbruchsalarmen nicht in die aufgezählten Bereiche.

Die Bewertung hängt jedoch vom Einsatz ab. Fließen Bewertungen zu Insiderbedrohungen unmittelbar in Disziplinarmaßnahmen oder Leistungsbeurteilungen ein, kann dies Rechte und Pflichten Einzelner erheblich berühren. Auch wenn eine öffentliche Einrichtung anhand von Überwachungsergebnissen Entscheidungen über Bürgerinnen und Bürger trifft, ist eine genauere Prüfung erforderlich. Prüfen Sie auch die Durchführungsverordnung, denn sie kann weitere Bereiche erfassen.

Die Vorabprüfung nach Artikel 33 bleibt in jedem Fall erforderlich. Dokumentieren Sie sie für spätere Auskünfte. Bei unklarer Auslegung können Sie das koreanische Ministerium für Wissenschaft und IKT um Bestätigung bitten.

Wenn Sie Sicherheits-KI nur intern einsetzen

Wenn Sie KI nur für den eigenen Sicherheitsbetrieb nutzen und damit keine Produkte oder Dienste für Dritte anbieten, kann die Einordnung als KI-Anbieter unterschiedlich ausgelegt werden. Wir empfehlen eine rechtliche Prüfung.

Genox entwickelt und stellt KI bereit. Daher prüft Genox selbst, ob Genox Cybersecurity AI als KI mit erheblichen Auswirkungen einzuordnen ist.

Zuordnung

Wie Genox bei den Anforderungen unterstützt

Die folgenden Funktionen liefern Aufzeichnungen und Abläufe zur Vorbereitung.
Die Einhaltung der gesetzlichen Pflichten bleibt Aufgabe des jeweiligen Anbieters.

AnforderungFunktionen und Leistungen von GenoxIhre Aufgaben
Artikel 33
Vorabprüfung der Einordnung
Verzeichnis der KI-Einsatzbereiche im Unternehmen und Prüfkriterien aus der Beratung zu KI-GovernanceJeden Einsatz einordnen und bei Bedarf das koreanische Ministerium für Wissenschaft und IKT um Bestätigung bitten.
Artikel 3(2) · Artikel 34(1)(ii)
Erklärung
Begründungskette, die Belege, Begründung, Konfidenz und ATT&CK-Technik-IDs je Bewertung zusammenführt.Verfahren für Erläuterungen an Betroffene festlegen und ihre Anfragen beantworten.
Artikel 34(1)(iv)
Menschliche Aufsicht
Das Analyseteam gibt Isolierung, Blockierung und Kontosperrung frei. Automatisierte Maßnahmen bleiben auf die vereinbarten Richtlinien beschränkt.Freigabeberechtigte benennen und den Umfang automatisierter Maßnahmen festlegen.
Artikel 34(1)(v)
Dokumente erstellen und aufbewahren
Speichert Eingabedaten, Modell- und Richtlinienversionen je Bewertung, vergleicht Wiederholungen und führt signierte Auditprotokolle.Aufbewahrungsfristen bestimmen und die Aufzeichnungen in das Dokumentenmanagement übernehmen.
Artikel 34(1)(i)
Risikomanagementplan
Ergebnisse der KI- und LLM-Sicherheitsprüfung durch ein Red Team als Grundlage der RisikoermittlungDen Risikomanagementplan erstellen und umsetzen sowie über akzeptable Restrisiken entscheiden.
Artikel 31
Information und Kennzeichnung
Hierfür gibt es keine entsprechende Funktion.Nutzende im Voraus über angebotene KI-Dienste informieren und Ausgaben kennzeichnen.

Beim erneuten Ausführen kann ein KI-Modell denselben Sachverhalt anders formulieren. Änderungen am eigentlichen Ergebnis erfasst Genox.

KI-Red-Teaming

Eigene KI-Dienste vor der Freigabe testen

Für Dienste mit generativer KI, etwa einen Chatbot im Kundendienst oder einen internen KI-Agenten, gelten die Informations- und Kennzeichnungspflichten nach Artikel 31.
Fällt ein Dienst in einen Bereich mit erheblichen Auswirkungen, kommt das Risikomanagement nach Artikel 34 hinzu.

  • Wir prüfen die Widerstandsfähigkeit gegen direkte und indirekte Prompt-Injektion, Jailbreaks und Manipulationen von Werkzeugen.
  • Wir prüfen auch koreanischsprachige Szenarien, die englische Datensätze häufig nicht abdecken.
  • Der Bericht dokumentiert bestätigte Befunde und Vorschläge für Schutzregeln. Er kann das Risikomanagement belegen.
  • Der Bericht nennt den tatsächlichen Prüfumfang und die untersuchten Szenarien. Die Prüfung kann nicht alle Angriffe abdecken.
Zur KI- und LLM-Sicherheitsprüfung
FAQ

Häufige Fragen

Ist Genox Cybersecurity AI eine KI mit erheblichen Auswirkungen?

Genox ist für Sicherheitsaufgaben wie Schadsoftware-Klassifizierung, Korrelation von Warnmeldungen und Priorisierung von Schwachstellen ausgelegt. Die Plattform zielt nicht unmittelbar auf die im Gesetz genannten Bereiche ab. Die Einordnung hängt vom konkreten Einsatz ab. Bei der Einführung prüfen wir daher gemeinsam die vorgesehenen Anwendungen.

Welche Unterlagen brauchen wir für die Erklärungspflicht?

Die betrachteten Daten, die angewandten Kriterien und die Schlussfolgerung müssen sich in einer gemeinsamen Aufzeichnung nachvollziehen lassen. Genox speichert je Bewertung Belege, Begründung, Konfidenz und widersprechende Hinweise. Wenn Sie Informationen aus der Modellentwicklung benötigen, etwa eine Übersicht der Trainingsdaten, prüfen wir auf Anfrage, welche Angaben wir bereitstellen können.

Stellt Genox Zertifikate nach ISO/IEC 42001 aus?

Genox ist keine Zertifizierungsstelle. Wir richten KI-Richtlinien am öffentlich verfügbaren Text von ISO/IEC 42001 aus. Ein Zertifikat stellt eine akkreditierte Stelle aus.

Was müssen Finanzunternehmen zusätzlich beachten?

Die KI-Leitlinien der koreanischen Finanzdienstleistungskommission für den Finanzsektor gelten seit dem 22. Juni 2026. Als Selbstregulierung weisen sie darauf hin, dass bei KI mit erheblichen Auswirkungen die gesetzlichen Pflichten zusätzlich gelten. Weitere Informationen finden Sie im Leitfaden zur koreanischen Finanzaufsicht und zum KI-Einsatz im Finanzsektor.

Quellen

Amtliche Quellen

Kontakt

Erfassen Sie zuerst die KI-Einsatzbereiche

Falls Ihnen eine Übersicht fehlt, halten wir zunächst fest, welche Teams welche KI zu welchem Zweck einsetzen.
Anschließend prüfen wir die Einordnung und vereinbaren den Umfang der Sicherheitsprüfung.

Sprechen Sie mit unseren
Sicherheitsexperten.

Kontakt