
Nous vérifions les autorisations et les flux de données
des applications d’IA
Nous examinons le traitement des entrées, les droits d’accès aux outils et les risques liés à la chaîne d’approvisionnement des chatbots internes, des systèmes de génération augmentée par récupération (RAG), des agents d’IA et des modèles externes. Le périmètre et les livrables sont précisés lors de la consultation. L’espace de démonstration présente des scénarios fictifs.
En serviceNous évaluons les risques liés aux injections de prompts, aux descriptions d’outils MCP, aux autorisations excessives et aux paquets de la chaîne d’approvisionnement. L’espace de démonstration présente des simulations. Critères d’intervention
Périmètre et modalités du service
Un nœud d’analyse dédié à chaque client
Les analyses s’exécutent sur un nœud dédié à chaque client. Les ressources de calcul et le stockage sont propres à chaque client.
Nous conservons les éléments qui justifient chaque décision
Une même fiche indique le moteur qui a pris la décision, les journaux sur lesquels il s’est appuyé et la mesure qu’il a recommandée. Vous pouvez la présenter telle quelle lors d’un audit.
Vous pouvez relancer les analyses passées
Nous enregistrons les versions du modèle et de la politique en vigueur au moment de la décision. En cas de doute sur une décision du mois précédent, vous pouvez relancer l’analyse avec les mêmes données et comparer les résultats.
La décision finale revient à une personne
L’IA classe et résume les alertes, puis un analyste approuve la réponse. L’isolement d’un serveur ou le verrouillage d’un compte nécessitent une approbation humaine.
Prestations d’évaluation de la sécurité de l’IA
Évaluation des applications fondées sur des LLM
Nous évaluons les chatbots, les systèmes RAG et les services internes d’IA sur 20 points.
En savoir plusÉvaluation des agents IA et de MCP
Nous examinons les droits des agents sur les outils, leurs délégations et leurs connexions MCP.
En savoir plusÉvaluation des modèles et de leur chaîne d’approvisionnement
Nous examinons la sécurité des modèles, des jeux de données et des extensions d’origine externe.
En savoir plusÉvaluation des applications fondées sur des LLM
Notre évaluation couvre 20 points, issus de l’OWASP LLM Top 10 et complétés par les menaces propres aux agents d’IA et des exigences réglementaires sud-coréennes. Les scénarios de test sont adaptés à l’architecture du service. L’espace de démonstration présente des simulations.
Atouts
20 points de contrôle
Nous complétons l’OWASP LLM Top 10 par les menaces propres aux agents d’IA et des points relatifs à la réglementation sud-coréenne.
Environnement de test isolé
Les prompts de test et les résultats restent dans l’environnement d’évaluation.
Ajout des justificatifs de reproduction du scénario
Pour chaque vulnérabilité, nous joignons le prompt utilisé lors du test et la réponse effectivement obtenue.
Proposition de règles de protection
Pour chaque vulnérabilité détectée, nous proposons des garde-fous et des règles de filtrage adaptés.
Principaux points de contrôle (20)
| Classification | Points de contrôle | Description | Niveau de risque |
|---|---|---|---|
| Entrée | Injection directe de prompt | Neutralisation des instructions système ou substitution de rôle | Élevé |
| Entrée | Injection indirecte de prompt | Exécution d’instructions non fiables provenant de documents, de pages web ou d’e-mails | Élevé |
| Entrée | Contournement des garde-fous (jailbreak) | Réponses qui contournent les règles de sécurité | Moyen |
| Entrée | Contournement par la langue ou l’encodage | Vérification du filtrage des formulations en coréen et des entrées encodées, notamment en Base64 | Moyen |
| Données | Divulgation du prompt système | Exposition des instructions internes et de la logique métier | Moyen |
| Données | Exposition de données sensibles | Divulgation de données personnelles ou de secrets commerciaux dans les réponses | Élevé |
| Données | Contournement des contrôles d’accès RAG | Exposition dans les résultats de recherche de documents hors du périmètre d’accès de l’utilisateur | Élevé |
| Données | Extraction des données d’entraînement | Restitution à l’identique des données d’entraînement mémorisées par le modèle | Moyen |
| Agents | Autorisations excessives des outils | Outils et API disposant de droits supérieurs à leurs besoins | Élevé |
| Agents | Manipulation des appels d’outils | Appels d’outils non autorisés à la suite d’une injection, dont l’envoi d’e-mails ou l’interrogation d’une base de données | Élevé |
| Agents | Usurpation de serveur MCP | Connexion à un serveur MCP malveillant ou altéré | Élevé |
| Agents | Contournement de l’approbation | Tentative de contourner une étape soumise à une approbation humaine | Moyen |
| Sortie | Traitement inapproprié des sorties | Exécution directe de la sortie du modèle en tant que code ou requête | Élevé |
| Sortie | Génération de contenus préjudiciables | Production de contenu contraire à la politique | Moyen |
| Sortie | Informations erronées dues aux hallucinations | Génération d’affirmations sans fondement ou de liens inexistants | Faible |
| Chaîne d’approvisionnement | Altération des fichiers du modèle | Fichiers sérialisés malveillants et modèles contenant une porte dérobée | Élevé |
| Chaîne d’approvisionnement | Empoisonnement des données | Empoisonnement des données de fine-tuning ou de RAG | Moyen |
| Exploitation | Épuisement des ressources | Hausse brutale des coûts ou indisponibilité due à une consommation excessive de jetons ou à trop d’appels | Moyen |
| Exploitation | Absence de journalisation et d’audit | Absence de journalisation des prompts et des appels d’outils | Faible |
| Gouvernance | Adéquation aux exigences réglementaires | Exigences des lois sud-coréennes sur l’IA et la protection des données personnelles non satisfaites | Faible |
Étapes de la prestation
Modélisation des menaces
Nous analysons l’architecture du service et les flux de données
- Modèle de menaces
Tests de sécurité automatisés
Nous exécutons automatiquement une série de prompts de test
- Résultats de l’évaluation automatisée
Reproduction du scénario
Nous testons les scénarios associés à chaque point de contrôle et consignons les résultats
- Liste des vulnérabilités
Conception des défenses
Nous proposons des garde-fous et des ajustements des autorisations
- Guide de défense
Nouvelle vérification
Nous répétons le test de sécurité après correction
- Rapport de suivi de la mise en œuvre
Questions fréquentes
Devons-nous transférer le modèle hors de notre environnement ?
L’évaluation se déroule dans l’environnement du client ou dans l’environnement isolé de Research Lab. Les données de test restent dans l’environnement utilisé.
Cette évaluation aide-t-elle à répondre aux exigences de la loi-cadre sud-coréenne sur l’IA ?
Le rapport identifie les points liés aux exigences de gestion des risques pour l’IA à fort impact.
Pour aller plus loin, consultez les contenus associés.
Évaluation des agents IA et de MCP
Nous recensons les outils, les API et les serveurs MCP accessibles aux agents d’IA et relevons leurs autorisations respectives.
Nous vérifions ensuite si un document ou un e-mail non fiable peut déclencher un envoi d’e-mail ou une consultation de la base de données en dehors des autorisations de l’agent.
Atouts
Cartographie des autorisations
Une vue d’ensemble indique les outils et les données auxquels chaque agent peut accéder.
Analyse des délégations
Lorsqu’un agent en appelle un autre, nous examinons comment les autorisations sont transmises.
Vérification des serveurs MCP
Nous vérifions la provenance, la version et la signature des serveurs MCP connectés.
Règles de surveillance des appels d’outils
Nous recensons les habitudes d’appel des outils et proposons des règles de détection des écarts.
Étapes de la prestation
Inventaire
Nous recensons les agents, les outils et les serveurs MCP
- Cartographie des autorisations
Attaque simulée
Nous évaluons la résistance à la manipulation des appels d’outils
- Liste des vulnérabilités
Amélioration
Nous indiquons les autorisations à restreindre, point par point
- Recommandations relatives aux autorisations
Surveillance
Nous appliquons des règles de détection comportementale
- Règles de détection
Pour aller plus loin, consultez les contenus associés.
Évaluation des modèles et de leur chaîne d’approvisionnement
Nous examinons les fichiers de modèles, les jeux de données et les extensions provenant de dépôts publics pour détecter du code malveillant ou des données contaminées.
Atouts
Analyse des fichiers de modèles
Nous vérifions si des fichiers de modèles sérialisés, notamment au format pickle, contiennent du code susceptible de s’exécuter au chargement.
Élaboration de l’AI-BOM
Nous dressons l’inventaire des modèles, des données et des bibliothèques en usage.
Exécution en environnement isolé
Nous exécutons le modèle dans l’environnement isolé de Research Lab pour repérer les comportements inhabituels.
Définition de la procédure d’importation
Nous élaborons avec vous une procédure interne de vérification de la provenance et de l’intégrité, puis d’approbation.
Étapes de la prestation
Inventaire
Nous recensons les modèles et les données utilisés
- AI-BOM
Analyse statique
Nous recherchons le code dissimulé dans les fichiers
- Résultats de l’analyse
Évaluation à l’exécution
Nous l’exécutons dans un environnement isolé
- Résultats de l’évaluation
Définition de la politique
Nous concevons un dispositif qui limite l’usage aux modèles approuvés
- Politique d’importation
Pour aller plus loin, consultez les contenus associés.

Échanger sur vos besoins en sécurité
Décrivez votre environnement et vos besoins en sécurité. Nous vous présenterons les configurations adaptées.



