Visite du produit en 3 min E-mail pour un incident urgent
Loi-cadre sur l’IA

L’IA de sécurité doit aussi
être évaluée au regard de la loi

La loi-cadre de la République de Corée sur le développement de l’intelligence artificielle et l’établissement de la confiance (loi-cadre sur l’IA, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」) est entrée en vigueur le 22 janvier 2026. Elle s’applique aux produits et services d’IA proposés en Corée, y compris par des entreprises étrangères. L’IA de supervision de la sécurité entre rarement d’emblée dans la catégorie des IA à fort impact, mais chaque opérateur doit vérifier ce point en amont. Ce guide présente les documents à conserver pour justifier cette analyse et expliquer les résultats.

Exigences

Les exigences de la loi

La loi n° 20676 a été promulguée le 21 janvier 2025. Ses dispositions finales prévoient son entrée en vigueur un an après la promulgation. Le tableau reprend les dispositions qui concernent les opérations de sécurité.

DispositionContenu
Article 2(4)
IA à fort impact
Systèmes d’IA susceptibles d’avoir des effets importants sur la vie, l’intégrité physique ou les droits fondamentaux, ou de présenter un risque pour ces derniers, lorsqu’ils sont utilisés dans les domaines énumérés par la loi : approvisionnement en énergie, production d’eau potable, soins de santé, dispositifs médicaux, installations nucléaires, analyse de données biométriques à des fins d’enquête pénale, décisions affectant sensiblement les droits ou obligations des personnes telles que le recrutement ou l’octroi de prêts, transports, décisions des organismes de l’État ou assimilés concernant les services publics, évaluation des élèves et étudiants, et domaines fixés par décret présidentiel.
Article 2(7)
Opérateurs d’IA
Développeurs qui conçoivent et fournissent des systèmes d’IA, et utilisateurs professionnels qui proposent des produits ou services reposant sur ces systèmes.
Article 3(2)Dans la mesure où cela est techniquement et raisonnablement possible, les personnes concernées doivent pouvoir obtenir une explication claire et pertinente des principaux critères et principes qui ont conduit au résultat final.
Article 31
Obligations de transparence
Informer à l’avance les utilisateurs qu’un produit ou un service repose sur une IA à fort impact ou générative. Signaler les contenus générés par une IA générative. Pour les sons, images ou vidéos difficiles à distinguer de contenus réels, fournir une indication qui permette de les reconnaître clairement.
Article 33
Qualification d’une IA à fort impact
Avant de fournir un produit ou un service d’IA, les opérateurs vérifient s’il relève de cette catégorie. Ils peuvent demander confirmation au ministre des Sciences et des TIC si nécessaire.
Article 34
Obligations des opérateurs d’IA à fort impact
Établir et mettre en œuvre un plan de gestion des risques. Prévoir l’explication des résultats finaux, des critères principaux et des grandes lignes des données d’entraînement. Protéger les utilisateurs, assurer un contrôle humain et conserver les documents attestant les mesures de sûreté et de fiabilité.
Article 35
Étude d’impact
Les opérateurs doivent s’efforcer de mener une étude d’impact sur les droits fondamentaux lorsqu’ils proposent des produits ou services d’IA à fort impact. Les organismes de l’État et assimilés privilégient les produits et services ayant fait l’objet d’une telle étude.
Article 43
Amendes administratives
Jusqu’à 30 millions de wons sud-coréens (KRW), par exemple en cas de manquement à l’information prévue à l’article 31(1).
Qualification de l’IA de sécurité

L’IA de supervision de la sécurité est-elle à fort impact ?

La cybersécurité ne figure pas en tant que telle parmi les domaines énumérés. Selon notre lecture, la plupart des systèmes qui classent les logiciels malveillants ou regroupent les alertes d’intrusion n’entrent pas dans ces domaines.

La réponse dépend toutefois de l’usage. Si un score de menace interne détermine directement une mesure disciplinaire ou une évaluation professionnelle, il peut avoir des effets importants sur les droits et obligations des personnes. Il faut aussi examiner le cas d’un organisme public qui prend, sur la base de la supervision, des décisions touchant les citoyens. Consultez également le décret d’application, qui peut préciser d’autres domaines.

L’article 33 impose dans tous les cas une vérification préalable. Conservez une trace de cette vérification pour pouvoir l’expliquer. En cas de doute d’interprétation, vous pouvez solliciter une confirmation du ministre des Sciences et des TIC.

IA de sécurité utilisée uniquement en interne

Si vous utilisez l’IA pour vos propres opérations de sécurité sans proposer de produits ou services fondés sur cette IA à des tiers, votre qualification comme utilisateur professionnel au sens de la loi peut prêter à interprétation. Demandez un avis juridique sur ce point.

Genox développe et fournit des systèmes d’IA. Il lui appartient donc de vérifier si Genox Cybersecurity AI relève de la catégorie des IA à fort impact.

Mise en correspondance

Apport des fonctions de Genox au regard des exigences

Les fonctions ci-dessous fournissent des documents et procédures utiles à votre préparation.
La conformité à la loi dépend de l’usage et des mesures mises en œuvre par votre organisation.

ExigenceFonctions et services Genox associésResponsabilités de votre organisation
Article 33
Vérification préalable du caractère à fort impact
Inventaire des usages de l’IA dans votre organisation et critères d’évaluation établis dans le cadre du conseil en gouvernance de l’IAQualifier chaque usage et demander, si nécessaire, confirmation au ministère des Sciences et des TIC.
Article 3(2) · Article 34(1)(ii)
Explication
Trace qui associe à chaque décision les éléments probants, le raisonnement, le niveau de confiance et les identifiants de techniques ATT&CK.Définir la procédure d’explication aux personnes concernées et leur répondre.
Article 34(1)(iv)
Contrôle humain
Un analyste approuve l’isolement, le blocage et le verrouillage des comptes. La réponse automatique se limite au périmètre de la politique convenue.Désigner les personnes habilitées à approuver les actions et définir le périmètre des politiques de réponse automatique.
Article 34(1)(v)
Établissement et conservation des documents
Conservation des entrées, des versions du modèle et de la politique pour chaque décision, comparaison des réexécutions et conservation de journaux d’audit signés.Définir les durées de conservation et intégrer ces enregistrements dans votre système documentaire.
Article 34(1)(i)
Plan de gestion des risques
Résultats de l’évaluation de sécurité de l’IA et des grands modèles de langage utilisés pour identifier les risques.Établir et appliquer le plan de gestion des risques. Décider quels risques résiduels accepter.
Article 31
Information et signalement des contenus générés
Aucune fonction associéeInformer au préalable les utilisateurs des services d’IA fournis à des tiers et signaler les contenus générés.

La formulation peut varier d’une réexécution à l’autre. Tout changement de décision est consigné.

Évaluation de la sécurité de l’IA

Évaluer votre service d’IA avant sa mise en production

Si vous exploitez un service intégrant une IA générative, par exemple un assistant de support ou un agent interne, l’article 31 impose des obligations d’information et de signalement.
L’article 34 ajoute des exigences de gestion des risques si le service relève d’un domaine à fort impact.

  • Nous évaluons la résistance aux injections directes et indirectes d’instructions, aux contournements de garde-fous et aux usages détournés des outils.
  • Nous évaluons aussi les scénarios en coréen que les jeux de données anglophones couvrent moins bien.
  • Le rapport consigne les constats et propose des règles de protection. Il peut servir de pièce justificative pour votre documentation de gestion des risques.
  • Le rapport précise les scénarios et le périmètre couverts par l’évaluation. Les résultats sont limités à ces essais.
Voir l’évaluation de sécurité de l’IA et des grands modèles de langage
FAQ

Questions fréquentes

Genox Cybersecurity AI est-elle une IA à fort impact ?

Genox a été conçue pour des opérations de sécurité telles que la classification des logiciels malveillants, le rapprochement des alertes et la hiérarchisation des vulnérabilités. Ces fonctions ne visent pas directement les domaines énumérés par la loi. La qualification dépend toutefois de l’usage. Nous examinons avec vous les usages prévus lors du déploiement.

Que conserver pour répondre à l’obligation d’explication ?

Un même enregistrement doit relier les données examinées, les critères appliqués et la conclusion. Pour chaque décision, Genox conserve les éléments probants, le raisonnement, le niveau de confiance et les éléments qui vont à l’encontre de la décision. Pour obtenir des renseignements sur le développement du modèle, par exemple un aperçu des données d’entraînement, contactez Genox. Nous vérifierons quelles informations peuvent être communiquées.

Genox délivre-t-elle un certificat ISO/IEC 42001 ?

Nous rapprochons les politiques d’IA des dispositions publiques de la norme ISO/IEC 42001. La délivrance d’un certificat relève d’un organisme accrédité.

Quels textes une entreprise financière doit-elle également examiner ?

Les lignes directrices de la FSC sur l’IA dans le secteur financier sont entrées en vigueur le 22 juin 2026. Elles relèvent de l’autorégulation et précisent que les obligations légales relatives à l’IA à fort impact s’appliquent séparément. Consultez la page sur le règlement de supervision financière électronique et l’IA dans la finance.

Références

Références

Contact

Commencez par recenser les usages de l’IA

Identifiez les équipes qui utilisent l’IA, les outils employés et leurs finalités.
Cet inventaire aide à évaluer le caractère à fort impact et à définir le périmètre des essais de sécurité.

Parlez à un expert
sécurité de Genox.

Nous contacter