
La IA aplicada a la seguridad
también debe evaluarse conforme a la Ley Básica de IA
La Ley Marco para el Desarrollo de la Inteligencia Artificial y el Establecimiento de la Confianza de la República de Corea (Ley Básica de IA, «인공지능 발전과 신뢰 기반 조성 등에 관한 기본법») entró en vigor el 22 de enero de 2026. Se aplica a los productos y servicios de IA ofrecidos en Corea, incluidos los de empresas extranjeras. La IA de monitorización de seguridad rara vez se considera de alto impacto por sí sola, pero todo operador de IA debe comprobarlo de antemano. Esta guía explica cómo documentar esa comprobación y las explicaciones correspondientes.
Qué exige la ley
La Ley n.º 20676 se promulgó el 21 de enero de 2025 y, según sus disposiciones adicionales, entró en vigor un año después. A continuación se resumen los preceptos más relevantes para las operaciones de seguridad.
| Precepto | Contenido |
|---|---|
| Artículo 2.4 IA de alto impacto | Sistemas de IA que pueden afectar significativamente a la vida, la integridad física o los derechos fundamentales de las personas, o ponerlos en riesgo, cuando se utilizan en los ámbitos enumerados por la Ley: suministro de energía, producción de agua potable, atención sanitaria, productos sanitarios, instalaciones nucleares, análisis biométrico para investigaciones penales, decisiones con efectos significativos sobre los derechos y obligaciones individuales (como la contratación laboral o la evaluación de solicitudes de crédito), transporte, decisiones de organismos públicos y entidades análogas en servicios públicos, evaluación del alumnado y ámbitos establecidos por decreto presidencial |
| Artículo 2.7 Operadores de IA | Desarrolladores que crean y proporcionan IA, y operadores que ofrecen productos o servicios basados en esa IA |
| Artículo 3.2 | Las personas afectadas deben poder obtener una explicación clara y significativa de los principales criterios y principios utilizados para alcanzar el resultado final de la IA, en la medida en que sea técnica y razonablemente posible |
| Artículo 31 Obligaciones de transparencia | Informe a los usuarios de antemano si un producto o servicio se basa en IA de alto impacto o generativa. Identifique los resultados producidos con IA generativa. En el caso de audios, imágenes o vídeos difíciles de distinguir de la realidad, informe o etiquételos de forma que los usuarios puedan reconocerlos claramente |
| Artículo 33 Determinación del alto impacto | Al ofrecer un producto o servicio de IA, los operadores deben comprobar de antemano si constituye IA de alto impacto y, en caso necesario, pueden solicitar confirmación al Ministerio de Ciencia y TIC |
| Artículo 34 Obligaciones de los operadores de IA de alto impacto | Establecer y ejecutar un plan de gestión de riesgos, un plan para explicar los resultados finales, los criterios principales y un resumen de los datos de entrenamiento. También se exigen medidas de protección de los usuarios, supervisión humana y documentación de las medidas de seguridad y fiabilidad, entre otras obligaciones |
| Artículo 35 Evaluación de impacto | Los operadores deben procurar realizar una evaluación del impacto en los derechos fundamentales al ofrecer productos o servicios de IA de alto impacto. Los organismos públicos y entidades análogas dan prioridad a los productos y servicios que han pasado por una evaluación |
| Artículo 43 Multas administrativas | Hasta 30 millones de KRW, por ejemplo, por incumplir la obligación de aviso del artículo 31.1 |
¿Se considera de alto impacto la IA de monitorización de seguridad?
La ciberseguridad no figura entre los ámbitos enumerados en la Ley. A nuestro juicio, la mayor parte de la IA que clasifica programas maliciosos o agrupa alertas de intrusión queda fuera de esos ámbitos.
La clasificación depende del uso concreto. Si las puntuaciones de amenaza interna influyen directamente en sanciones disciplinarias o evaluaciones laborales, el uso se acerca a decisiones con efectos significativos sobre los derechos y obligaciones individuales. También merece un examen más detallado el caso de una institución pública que toma decisiones sobre la ciudadanía a partir de resultados de monitorización. Consulte el decreto de ejecución, ya que un decreto presidencial puede añadir ámbitos.
El artículo 33 exige una comprobación previa y un registro que permita explicarla después. Si la interpretación resulta dudosa, puede solicitar confirmación al Ministerio de Ciencia y TIC.
Uso interno de IA de seguridad
Si utiliza IA solo en sus propias operaciones de seguridad y no ofrece con ella productos o servicios a terceros, puede haber distintas interpretaciones sobre si usted es un operador usuario de IA a efectos de la Ley. Recomendamos solicitar asesoramiento jurídico.
Genox desarrolla y proporciona IA, por lo que le corresponde comprobar si Genox Cybersecurity AI constituye IA de alto impacto.
Cómo se relacionan los requisitos con Genox
Las funciones descritas ofrecen registros y procedimientos que pueden ayudarle a preparar el cumplimiento de estas obligaciones.
El cumplimiento de la Ley requiere una evaluación propia.
| Requisito | Funciones o servicios de Genox relacionados | Responsabilidades de la organización |
|---|---|---|
| Artículo 33 Comprobación previa del alto impacto | Inventario de usos de IA en su empresa y criterios de comprobación, preparados mediante la consultoría de gobernanza de IA | Decida si cada uso está comprendido y, en caso necesario, pida confirmación al Ministerio de Ciencia y TIC |
| Artículo 3.2 · Artículo 34.1.2 Explicación | Cadena de razonamiento que conserva las pruebas, el razonamiento, el nivel de confianza y los identificadores de técnicas ATT&CK de cada dictamen | Defina cómo ofrecerá las explicaciones a las personas afectadas y atienda sus solicitudes |
| Artículo 34.1.4 Supervisión humana | El aislamiento, el bloqueo y la restricción de cuentas requieren la aprobación de un analista. Las respuestas automáticas quedan limitadas al alcance de la política acordada | Designe a las personas autorizadas para aprobar y defina el alcance de las políticas de respuesta automática |
| Artículo 34.1.5 Elaboración y conservación de documentación | Conserva los datos de entrada, la versión del modelo y la versión de la política utilizados en cada dictamen. Compara las ejecuciones y mantiene registros de auditoría firmados | Defina los plazos de conservación e integre estos registros en su sistema documental |
| Artículo 34.1.1 Plan de gestión de riesgos | Evaluación de seguridad de IA y LLM con equipos de simulación ofensiva cuyos resultados ayudan a identificar riesgos | Establezca y ejecute el plan de gestión de riesgos y decida qué riesgos residuales acepta |
| Artículo 31 Aviso de transparencia y etiquetado | Sin función asociada | Avise de antemano y etiquete los resultados de los servicios de IA que proporciona a terceros |
Por las características de los modelos de IA, la redacción puede variar al repetir una ejecución. Si el dictamen cambia, se registra la diferencia.
Evalúe la seguridad de su servicio de IA antes del lanzamiento
Si opera un servicio que incorpora IA generativa, como un chatbot de atención al cliente o un agente interno, se aplican las obligaciones de aviso y etiquetado del artículo 31.
Si pertenece a un ámbito de alto impacto, se añade la gestión de riesgos del artículo 34.
- Comprobamos de forma repetida los riesgos de inyección directa e indirecta de instrucciones, evasión de restricciones y manipulación de herramientas.
- También evaluamos formulaciones en coreano que los conjuntos de datos en inglés pueden pasar por alto.
- El informe documenta las deficiencias verificadas, las condiciones de prueba y las propuestas de medidas de protección. Puede utilizarlo como material de apoyo para su documentación de gestión de riesgos.
- El informe recoge el alcance y los escenarios probados. La evaluación no garantiza que se identifiquen todos los ataques posibles.
Preguntas frecuentes
¿Se considera Genox Cybersecurity AI IA de alto impacto?
Genox se diseñó para operaciones de seguridad como la clasificación de programas maliciosos, la correlación de alertas y la priorización de vulnerabilidades. Estos usos no se dirigen directamente a los ámbitos enumerados por la Ley. La respuesta puede cambiar según el uso del cliente, por lo que revisamos juntos los usos previstos durante la implantación.
¿Qué debemos conservar para cumplir la obligación de explicar?
Un único registro debe vincular los datos examinados, los criterios utilizados y la conclusión. Genox guarda en cada dictamen las pruebas, el razonamiento y el nivel de confianza, así como las pruebas que contradicen el resultado. Si necesita información de la fase de desarrollo del modelo, como una descripción de los datos de entrenamiento, consulte con Genox. Revisaremos qué podemos facilitarle.
¿Emite Genox certificados ISO/IEC 42001?
Genox presta asesoramiento para ajustar las políticas de IA al texto público de ISO/IEC 42001. El certificado lo emite un organismo acreditado.
¿Qué más debe revisar una entidad financiera?
Las directrices de IA para el sector financiero de la Comisión de Servicios Financieros entraron en vigor el 22 de junio de 2026. Son de autorregulación y establecen que, si la IA se considera de alto impacto, se aplican por separado las obligaciones de esta Ley. Consulte la guía sobre supervisión financiera electrónica e IA en el sector financiero.
Referencias
- Ley Marco para el Desarrollo de la Inteligencia Artificial y el Establecimiento de la Confianza (인공지능 발전과 신뢰 기반 조성 등에 관한 기본법), Centro Nacional de Información Jurídica de Corea (en coreano)
- Decreto de ejecución de la misma Ley, Centro Nacional de Información Jurídica de Corea (en coreano)
- Anuncio de las directrices de IA para el sector financiero, comunicado de la Comisión de Servicios Financieros del 18 de junio de 2026 (en coreano)
Empiece por un inventario de los usos de IA en su empresa
Si aún no dispone de una lista de qué equipos usan IA, qué IA utilizan y con qué fines, empezamos por ella.
Después evaluamos el alto impacto y definimos el alcance de las pruebas.