
L’IA de sécurité doit aussi
être évaluée au regard de la loi
La loi-cadre de la République de Corée sur le développement de l’intelligence artificielle et l’établissement de la confiance (loi-cadre sur l’IA, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」) est entrée en vigueur le 22 janvier 2026. Elle s’applique aux produits et services d’IA proposés en Corée, y compris par des entreprises étrangères. L’IA de supervision de la sécurité entre rarement d’emblée dans la catégorie des IA à fort impact, mais chaque opérateur doit vérifier ce point en amont. Ce guide présente les documents à conserver pour justifier cette analyse et expliquer les résultats.
Les exigences de la loi
La loi n° 20676 a été promulguée le 21 janvier 2025. Ses dispositions finales prévoient son entrée en vigueur un an après la promulgation. Le tableau reprend les dispositions qui concernent les opérations de sécurité.
| Disposition | Contenu |
|---|---|
| Article 2(4) IA à fort impact | Systèmes d’IA susceptibles d’avoir des effets importants sur la vie, l’intégrité physique ou les droits fondamentaux, ou de présenter un risque pour ces derniers, lorsqu’ils sont utilisés dans les domaines énumérés par la loi : approvisionnement en énergie, production d’eau potable, soins de santé, dispositifs médicaux, installations nucléaires, analyse de données biométriques à des fins d’enquête pénale, décisions affectant sensiblement les droits ou obligations des personnes telles que le recrutement ou l’octroi de prêts, transports, décisions des organismes de l’État ou assimilés concernant les services publics, évaluation des élèves et étudiants, et domaines fixés par décret présidentiel. |
| Article 2(7) Opérateurs d’IA | Développeurs qui conçoivent et fournissent des systèmes d’IA, et utilisateurs professionnels qui proposent des produits ou services reposant sur ces systèmes. |
| Article 3(2) | Dans la mesure où cela est techniquement et raisonnablement possible, les personnes concernées doivent pouvoir obtenir une explication claire et pertinente des principaux critères et principes qui ont conduit au résultat final. |
| Article 31 Obligations de transparence | Informer à l’avance les utilisateurs qu’un produit ou un service repose sur une IA à fort impact ou générative. Signaler les contenus générés par une IA générative. Pour les sons, images ou vidéos difficiles à distinguer de contenus réels, fournir une indication qui permette de les reconnaître clairement. |
| Article 33 Qualification d’une IA à fort impact | Avant de fournir un produit ou un service d’IA, les opérateurs vérifient s’il relève de cette catégorie. Ils peuvent demander confirmation au ministre des Sciences et des TIC si nécessaire. |
| Article 34 Obligations des opérateurs d’IA à fort impact | Établir et mettre en œuvre un plan de gestion des risques. Prévoir l’explication des résultats finaux, des critères principaux et des grandes lignes des données d’entraînement. Protéger les utilisateurs, assurer un contrôle humain et conserver les documents attestant les mesures de sûreté et de fiabilité. |
| Article 35 Étude d’impact | Les opérateurs doivent s’efforcer de mener une étude d’impact sur les droits fondamentaux lorsqu’ils proposent des produits ou services d’IA à fort impact. Les organismes de l’État et assimilés privilégient les produits et services ayant fait l’objet d’une telle étude. |
| Article 43 Amendes administratives | Jusqu’à 30 millions de wons sud-coréens (KRW), par exemple en cas de manquement à l’information prévue à l’article 31(1). |
L’IA de supervision de la sécurité est-elle à fort impact ?
La cybersécurité ne figure pas en tant que telle parmi les domaines énumérés. Selon notre lecture, la plupart des systèmes qui classent les logiciels malveillants ou regroupent les alertes d’intrusion n’entrent pas dans ces domaines.
La réponse dépend toutefois de l’usage. Si un score de menace interne détermine directement une mesure disciplinaire ou une évaluation professionnelle, il peut avoir des effets importants sur les droits et obligations des personnes. Il faut aussi examiner le cas d’un organisme public qui prend, sur la base de la supervision, des décisions touchant les citoyens. Consultez également le décret d’application, qui peut préciser d’autres domaines.
L’article 33 impose dans tous les cas une vérification préalable. Conservez une trace de cette vérification pour pouvoir l’expliquer. En cas de doute d’interprétation, vous pouvez solliciter une confirmation du ministre des Sciences et des TIC.
IA de sécurité utilisée uniquement en interne
Si vous utilisez l’IA pour vos propres opérations de sécurité sans proposer de produits ou services fondés sur cette IA à des tiers, votre qualification comme utilisateur professionnel au sens de la loi peut prêter à interprétation. Demandez un avis juridique sur ce point.
Genox développe et fournit des systèmes d’IA. Il lui appartient donc de vérifier si Genox Cybersecurity AI relève de la catégorie des IA à fort impact.
Apport des fonctions de Genox au regard des exigences
Les fonctions ci-dessous fournissent des documents et procédures utiles à votre préparation.
La conformité à la loi dépend de l’usage et des mesures mises en œuvre par votre organisation.
| Exigence | Fonctions et services Genox associés | Responsabilités de votre organisation |
|---|---|---|
| Article 33 Vérification préalable du caractère à fort impact | Inventaire des usages de l’IA dans votre organisation et critères d’évaluation établis dans le cadre du conseil en gouvernance de l’IA | Qualifier chaque usage et demander, si nécessaire, confirmation au ministère des Sciences et des TIC. |
| Article 3(2) · Article 34(1)(ii) Explication | Trace qui associe à chaque décision les éléments probants, le raisonnement, le niveau de confiance et les identifiants de techniques ATT&CK. | Définir la procédure d’explication aux personnes concernées et leur répondre. |
| Article 34(1)(iv) Contrôle humain | Un analyste approuve l’isolement, le blocage et le verrouillage des comptes. La réponse automatique se limite au périmètre de la politique convenue. | Désigner les personnes habilitées à approuver les actions et définir le périmètre des politiques de réponse automatique. |
| Article 34(1)(v) Établissement et conservation des documents | Conservation des entrées, des versions du modèle et de la politique pour chaque décision, comparaison des réexécutions et conservation de journaux d’audit signés. | Définir les durées de conservation et intégrer ces enregistrements dans votre système documentaire. |
| Article 34(1)(i) Plan de gestion des risques | Résultats de l’évaluation de sécurité de l’IA et des grands modèles de langage utilisés pour identifier les risques. | Établir et appliquer le plan de gestion des risques. Décider quels risques résiduels accepter. |
| Article 31 Information et signalement des contenus générés | Aucune fonction associée | Informer au préalable les utilisateurs des services d’IA fournis à des tiers et signaler les contenus générés. |
La formulation peut varier d’une réexécution à l’autre. Tout changement de décision est consigné.
Évaluer votre service d’IA avant sa mise en production
Si vous exploitez un service intégrant une IA générative, par exemple un assistant de support ou un agent interne, l’article 31 impose des obligations d’information et de signalement.
L’article 34 ajoute des exigences de gestion des risques si le service relève d’un domaine à fort impact.
- Nous évaluons la résistance aux injections directes et indirectes d’instructions, aux contournements de garde-fous et aux usages détournés des outils.
- Nous évaluons aussi les scénarios en coréen que les jeux de données anglophones couvrent moins bien.
- Le rapport consigne les constats et propose des règles de protection. Il peut servir de pièce justificative pour votre documentation de gestion des risques.
- Le rapport précise les scénarios et le périmètre couverts par l’évaluation. Les résultats sont limités à ces essais.
Questions fréquentes
Genox Cybersecurity AI est-elle une IA à fort impact ?
Genox a été conçue pour des opérations de sécurité telles que la classification des logiciels malveillants, le rapprochement des alertes et la hiérarchisation des vulnérabilités. Ces fonctions ne visent pas directement les domaines énumérés par la loi. La qualification dépend toutefois de l’usage. Nous examinons avec vous les usages prévus lors du déploiement.
Que conserver pour répondre à l’obligation d’explication ?
Un même enregistrement doit relier les données examinées, les critères appliqués et la conclusion. Pour chaque décision, Genox conserve les éléments probants, le raisonnement, le niveau de confiance et les éléments qui vont à l’encontre de la décision. Pour obtenir des renseignements sur le développement du modèle, par exemple un aperçu des données d’entraînement, contactez Genox. Nous vérifierons quelles informations peuvent être communiquées.
Genox délivre-t-elle un certificat ISO/IEC 42001 ?
Nous rapprochons les politiques d’IA des dispositions publiques de la norme ISO/IEC 42001. La délivrance d’un certificat relève d’un organisme accrédité.
Quels textes une entreprise financière doit-elle également examiner ?
Les lignes directrices de la FSC sur l’IA dans le secteur financier sont entrées en vigueur le 22 juin 2026. Elles relèvent de l’autorégulation et précisent que les obligations légales relatives à l’IA à fort impact s’appliquent séparément. Consultez la page sur le règlement de supervision financière électronique et l’IA dans la finance.
Références
- Loi-cadre sur le développement de l’intelligence artificielle et l’établissement de la confiance (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법), Centre national d’information juridique de la République de Corée (en coréen)
- Décret d’application de la même loi, Centre national d’information juridique de la République de Corée (en coréen)
- Annonce des lignes directrices sur l’IA dans le secteur financier, communiqué de la Commission des services financiers (FSC) du 18 juin 2026 (en coréen)
Commencez par recenser les usages de l’IA
Identifiez les équipes qui utilisent l’IA, les outils employés et leurs finalités.
Cet inventaire aide à évaluer le caractère à fort impact et à définir le périmètre des essais de sécurité.