Visite du produit en 3 min E-mail pour un incident urgent
IA et sécurité

Supervision de la sécurité par IA et
Sécurité de l’IA interne

Nous utilisons l’IA pour le triage des alertes et la première investigation.
Nous vérifions les autorisations et les flux de données des chatbots et agents utilisés dans l’organisation.

L’IA au service de la supervision de la sécurité

L’IA mène l’investigation,
les analystes approuvent les décisions

Niveau d’automatisationRôle de l’IARôle de l’équipeConfiguration par défaut de Genox
Assistance L1Synthèse et rechercheToutes les décisions-
Triage L2Triage et priorisation des alertesInvestigation et décision-
Investigation L3Investigation et production d’éléments probantsValidation des décisions✓ Par défaut
Réponse L4Réponse automatisée dans le périmètre convenuConception des politiques et gestion des exceptionsSélection par niveau de risque et par actif

Ce scénario fictif sert d’illustration. Les horaires et les chiffres à l’écran sont des exemples.

Rapport d’analyse par IACible -Analyse en cours

Ce que l’assistant d’IA peut faire et pourquoi il bloque certaines actions

Choisissez une situation pour voir quelles demandes l’assistant de travail fictif accepte et quelles instructions il ignore ou bloque.

Situation à examiner

L’assistant fictif peut uniquement lire l’aide publique. Les autorisations d’accès aux informations et d’exécution des outils sont examinées séparément.

La simulation présente des situations et des décisions prédéfinies. Elle fonctionne sans connexion à un modèle d’IA ni à des outils externes.

Exemple de décision de sécuritéSimulation

Situation
La demande consiste à vérifier les horaires de l’assistance dans l’aide publique.

Décision
Autorisé

Éléments probants
La consultation de l’aide publique est une action en lecture seule qui figure sur la liste d’autorisation.

Cartographie des menaces visant l’IA

Menaces visant les systèmes d’IA et
Rôle de Genox

MenaceDescriptionNiveau de risqueRéponse de Genox
Injection de promptManipulation du comportement par instructions directes ou indirectesÉlevéRed team, séparation structurelle et détection comportementale
Autorisations excessives des agentsAccès excessifs aux outils et aux donnéesÉlevéCartographie des autorisations et écarts au principe du moindre privilège
Chaîne d’approvisionnement MCPServeur MCP usurpé ou altéréÉlevéVérification de la provenance et des signatures · Évaluation en environnement isolé
Exposition de données sensiblesFuite par les réponses ou la recherche RAGMoyenVérification des autorisations RAG et contrôle des sorties
Altération et empoisonnement de modèlesFichiers de modèle malveillants et données d’entraînement contaminéesMoyenAnalyse des modèles et AI-BOM
Shadow AIUtilisation non autorisée de l’IAFaibleInventaire et gouvernance de l’IA

Parlez à un expert
sécurité de Genox.

Nous contacter