3-Minuten-Produkttour Dringender Vorfall per E-Mail
KI und Sicherheit

KI-gestützte Sicherheitsüberwachung und
Sicherheit interner KI

Wir setzen KI zur Klassifizierung von Warnmeldungen und für die Erstuntersuchung ein.
Bei Chatbots und Agenten in Ihrer Organisation prüfen wir Berechtigungen und Datenverarbeitungsabläufe.

KI für die Sicherheitsüberwachung

Die KI untersucht Warnmeldungen
Analysten geben die Bewertungen frei

AutomatisierungsgradAufgaben der KIAufgaben des PersonalsGenox-Standardeinstellung
L1-UnterstützungZusammenfassen und SuchenAlle Bewertungen-
L2-KlassifizierungWarnmeldungen klassifizieren und priorisierenUntersuchen und Bewerten-
L3-UntersuchungUntersuchen und Belege erfassenBewertung freigeben✓ Standard
L4-ReaktionAutomatische Reaktion im vereinbarten RahmenRichtlinien festlegen und Ausnahmen verwaltenAuswahl nach Risiko und Asset

Das fiktive Szenario dient der Veranschaulichung. Die angezeigten Zeiten und Zahlen sind Beispiele.

KI-AnalyseberichtPrüfobjekt -Analyse läuft

Was der KI-Assistent zulässt und warum er Anfragen blockiert

Wählen Sie eine Situation aus und sehen Sie, welche Anfragen der fiktive Arbeitsassistent zulässt und welche Anweisungen er ignoriert oder blockiert.

Zu prüfende Situation

Der fiktive Assistent darf ausschließlich die öffentliche Hilfe lesen. Berechtigungen für den Informationszugriff und die Ausführung von Werkzeugen werden separat geprüft.

Die Simulation zeigt vorgegebene Situationen und Bewertungen. Sie kommt ohne Anbindung an ein KI-Modell oder externe Werkzeuge aus.

Beispiel für eine SicherheitsentscheidungSimulation

Situation
Der Assistent soll die Supportzeiten in der öffentlichen Hilfe nachschlagen.

Bewertung
Zulässig

Belege
Der Abruf der öffentlichen Hilfe steht auf der Freigabeliste und gewährt ausschließlich Lesezugriff.

Überblick über KI-Bedrohungen

Bedrohungen für KI-Systeme und
Leistungen von Genox

BedrohungBeschreibungRisikostufeMaßnahmen von Genox
Prompt-InjectionManipulation durch direkte und indirekte AnweisungenHochRed-Team-Prüfung, strukturelle Trennung und Verhaltenserkennung
Übermäßige Berechtigungen für AgentenÜbermäßige Berechtigungen für Tools und DatenHochBerechtigungsübersicht und Abgleich mit minimalen Berechtigungen
MCP-LieferketteVorgetäuschte oder manipulierte MCP-ServerHochHerkunft und Signatur prüfen, Bewertung in isolierter Umgebung
Offenlegung sensibler InformationenDatenabfluss über Antworten und RAG-SucheMittelRAG-Berechtigungen und Ausgaben prüfen
Modellmanipulation und PoisoningBösartige Modelldateien und manipulierte TrainingsdatenMittelModellprüfung und AI-BOM
Schatten-KINutzung nicht genehmigter KINiedrigKI-Inventar und Governance

Sprechen Sie mit unseren
Sicherheitsexperten.

Kontakt