
Les travaux de recherche sur les attaques et les exercices de red team IA
se déroulent dans un environnement isolé
Les travaux de recherche sur les attaques et les exercices de red team IA se déroulent dans un environnement isolé.
Les communications sortantes sont bloquées par défaut. L’exportation des résultats exige l’approbation du responsable.
Échanger sur votre déploiementNous précisons le périmètre et l’environnement de déploiement lors de l’entretien. Modalités de déploiement
Les résultats de la recherche
restent dans l’environnement tant que leur exportation n’a pas été approuvée
Chaque chercheur dispose d’un espace de noms Kubernetes distinct. Une politique de refus par défaut bloque le trafic sortant.
L’exportation d’un rapport ou de code exige l’approbation du responsable et une signature électronique.
- Communications sortantes bloquées par défaut par la politique
- Pour chaque fichier exporté, nous consignons son empreinte et l’identité de la personne qui a approuvé l’exportation
- Un espace de noms isolé par chercheur
lab-ns/target-01En cours
Politique « egress-deny »10:41
En attente de l’approbation du responsable10:55
Les modèles et agents d’IA
sont soumis à des tests de sécurité
Nous utilisons des outils publics, dont Garak et PyRIT, et nos propres scénarios pour évaluer de façon répétée la résistance aux injections de prompts, aux contournements des garde-fous et à la manipulation des outils. Les chercheurs recensent les formulations en coréen que les jeux de données en anglais couvrent mal. Les tests qui révèlent une faiblesse donnent lieu à un relevé des conditions d’observation et à des propositions de garde-fous.
- Scénarios de test couvrant les injections directes et indirectes et la manipulation des outils
- Scénarios de test avec des variantes en coréen
- Les tests qui révèlent une faiblesse servent à rédiger des projets de garde-fous
Vérification de la provenance des entrées au regard de la politiqueJournal
Vérification de l’obligation d’approbationExamen
Comparaison du périmètre autorisé avec le journal d’exécutionJournal
Pour retracer les actions de chacun et leur horodatage,
nous consignons chaque action
Toutes les commandes exécutées, les accès aux systèmes cibles et les demandes d’exportation sont consignés dans un journal d’audit signé.
Ces enregistrements permettent de vérifier a posteriori que les travaux ont respecté le périmètre approuvé.
- Journal d’audit pour chaque commande
- Enregistrement vidéo de la session
- Exportation de rapports pour les audits
Fonctionnalités clés
Environnement de recherche isolé
Cloisonnement par chercheur à l’aide d’espaces de noms et de NetworkPolicy
Activités de red team
Exercices de sécurité dans les limites du périmètre et des scénarios convenus
Red team IA
Tests de sécurité automatisés des LLM et des agents
Recherche sur les vulnérabilités
Nous signalons d’abord les nouvelles vulnérabilités à l’éditeur ou au fabricant
Journal d’audit
Enregistrement signé pour chaque commande
Contrôle des exportations
Exportation réservée aux fichiers approuvés et signés
Fonctionnement
Approbation du périmètre
Accord écrit sur les objectifs de la recherche et le périmètre des systèmes évalués
Création de l’environnement
Préparation d’un espace de travail isolé et d’une réplique du système cible
Recherche
Tests d’attaque et expériences
Examen
Examen des résultats et autorisation d’exportation
Intégration
Rédaction de projets de règles de détection Sigma et YARA et de rapports
Outils et modalités d’intégration
Nous utilisons des API et Syslog. Le périmètre d’intégration de chaque outil dépend de sa version et de l’environnement d’exploitation.
Options de déploiement
| Méthode | Description | Recommandé |
|---|---|---|
| Sur site ou sur réseau fermé | Nous installons la solution dans votre centre de données. Les règles de détection et les modèles peuvent être mis à jour au moyen de paquets hors ligne, sans connexion externe. | Finance, secteur public et défense |
| Cloud dédié | Nous réservons à chaque client un environnement dédié dans une région cloud en Corée du Sud. | Grandes entreprises et santé |
| Service managé | Dans cette offre MDR, Genox assure la supervision. Le périmètre et les procédures de réponse sont définis lors de l’entretien. | ETI et PME |
| Partenaires MSSP | Le prestataire de supervision gère lui-même la plateforme et attribue un espace distinct à chaque client. | Prestataires spécialisés en sécurité |
Questions fréquentes
Les clients peuvent-ils demander à utiliser Research Lab ?
Les organisations qui disposent de leur propre red team peuvent discuter avec nous du périmètre et des conditions d’accès à l’environnement de recherche isolé.
Comment traitez-vous les vulnérabilités découvertes ?
Nous suivons les principes de divulgation responsable. Nous informons d’abord l’éditeur ou le fabricant et publions les informations après la mise à disposition d’un correctif.

Discuter du déploiement de Research Lab
Décrivez votre environnement pour que nous puissions définir le périmètre de la démonstration et de l’essai en conditions réelles.