Tour del producto en 3 min Correo para incidentes urgentes
Ley Básica de IA

La IA aplicada a la seguridad
también debe evaluarse conforme a la Ley Básica de IA

La Ley Marco para el Desarrollo de la Inteligencia Artificial y el Establecimiento de la Confianza de la República de Corea (Ley Básica de IA, «인공지능 발전과 신뢰 기반 조성 등에 관한 기본법») entró en vigor el 22 de enero de 2026. Se aplica a los productos y servicios de IA ofrecidos en Corea, incluidos los de empresas extranjeras. La IA de monitorización de seguridad rara vez se considera de alto impacto por sí sola, pero todo operador de IA debe comprobarlo de antemano. Esta guía explica cómo documentar esa comprobación y las explicaciones correspondientes.

Requisitos

Qué exige la ley

La Ley n.º 20676 se promulgó el 21 de enero de 2025 y, según sus disposiciones adicionales, entró en vigor un año después. A continuación se resumen los preceptos más relevantes para las operaciones de seguridad.

PreceptoContenido
Artículo 2.4
IA de alto impacto
Sistemas de IA que pueden afectar significativamente a la vida, la integridad física o los derechos fundamentales de las personas, o ponerlos en riesgo, cuando se utilizan en los ámbitos enumerados por la Ley: suministro de energía, producción de agua potable, atención sanitaria, productos sanitarios, instalaciones nucleares, análisis biométrico para investigaciones penales, decisiones con efectos significativos sobre los derechos y obligaciones individuales (como la contratación laboral o la evaluación de solicitudes de crédito), transporte, decisiones de organismos públicos y entidades análogas en servicios públicos, evaluación del alumnado y ámbitos establecidos por decreto presidencial
Artículo 2.7
Operadores de IA
Desarrolladores que crean y proporcionan IA, y operadores que ofrecen productos o servicios basados en esa IA
Artículo 3.2Las personas afectadas deben poder obtener una explicación clara y significativa de los principales criterios y principios utilizados para alcanzar el resultado final de la IA, en la medida en que sea técnica y razonablemente posible
Artículo 31
Obligaciones de transparencia
Informe a los usuarios de antemano si un producto o servicio se basa en IA de alto impacto o generativa. Identifique los resultados producidos con IA generativa. En el caso de audios, imágenes o vídeos difíciles de distinguir de la realidad, informe o etiquételos de forma que los usuarios puedan reconocerlos claramente
Artículo 33
Determinación del alto impacto
Al ofrecer un producto o servicio de IA, los operadores deben comprobar de antemano si constituye IA de alto impacto y, en caso necesario, pueden solicitar confirmación al Ministerio de Ciencia y TIC
Artículo 34
Obligaciones de los operadores de IA de alto impacto
Establecer y ejecutar un plan de gestión de riesgos, un plan para explicar los resultados finales, los criterios principales y un resumen de los datos de entrenamiento. También se exigen medidas de protección de los usuarios, supervisión humana y documentación de las medidas de seguridad y fiabilidad, entre otras obligaciones
Artículo 35
Evaluación de impacto
Los operadores deben procurar realizar una evaluación del impacto en los derechos fundamentales al ofrecer productos o servicios de IA de alto impacto. Los organismos públicos y entidades análogas dan prioridad a los productos y servicios que han pasado por una evaluación
Artículo 43
Multas administrativas
Hasta 30 millones de KRW, por ejemplo, por incumplir la obligación de aviso del artículo 31.1
IA de alto impacto en seguridad

¿Se considera de alto impacto la IA de monitorización de seguridad?

La ciberseguridad no figura entre los ámbitos enumerados en la Ley. A nuestro juicio, la mayor parte de la IA que clasifica programas maliciosos o agrupa alertas de intrusión queda fuera de esos ámbitos.

La clasificación depende del uso concreto. Si las puntuaciones de amenaza interna influyen directamente en sanciones disciplinarias o evaluaciones laborales, el uso se acerca a decisiones con efectos significativos sobre los derechos y obligaciones individuales. También merece un examen más detallado el caso de una institución pública que toma decisiones sobre la ciudadanía a partir de resultados de monitorización. Consulte el decreto de ejecución, ya que un decreto presidencial puede añadir ámbitos.

El artículo 33 exige una comprobación previa y un registro que permita explicarla después. Si la interpretación resulta dudosa, puede solicitar confirmación al Ministerio de Ciencia y TIC.

Uso interno de IA de seguridad

Si utiliza IA solo en sus propias operaciones de seguridad y no ofrece con ella productos o servicios a terceros, puede haber distintas interpretaciones sobre si usted es un operador usuario de IA a efectos de la Ley. Recomendamos solicitar asesoramiento jurídico.

Genox desarrolla y proporciona IA, por lo que le corresponde comprobar si Genox Cybersecurity AI constituye IA de alto impacto.

Correspondencia

Cómo se relacionan los requisitos con Genox

Las funciones descritas ofrecen registros y procedimientos que pueden ayudarle a preparar el cumplimiento de estas obligaciones.
El cumplimiento de la Ley requiere una evaluación propia.

RequisitoFunciones o servicios de Genox relacionadosResponsabilidades de la organización
Artículo 33
Comprobación previa del alto impacto
Inventario de usos de IA en su empresa y criterios de comprobación, preparados mediante la consultoría de gobernanza de IADecida si cada uso está comprendido y, en caso necesario, pida confirmación al Ministerio de Ciencia y TIC
Artículo 3.2 · Artículo 34.1.2
Explicación
Cadena de razonamiento que conserva las pruebas, el razonamiento, el nivel de confianza y los identificadores de técnicas ATT&CK de cada dictamenDefina cómo ofrecerá las explicaciones a las personas afectadas y atienda sus solicitudes
Artículo 34.1.4
Supervisión humana
El aislamiento, el bloqueo y la restricción de cuentas requieren la aprobación de un analista. Las respuestas automáticas quedan limitadas al alcance de la política acordadaDesigne a las personas autorizadas para aprobar y defina el alcance de las políticas de respuesta automática
Artículo 34.1.5
Elaboración y conservación de documentación
Conserva los datos de entrada, la versión del modelo y la versión de la política utilizados en cada dictamen. Compara las ejecuciones y mantiene registros de auditoría firmadosDefina los plazos de conservación e integre estos registros en su sistema documental
Artículo 34.1.1
Plan de gestión de riesgos
Evaluación de seguridad de IA y LLM con equipos de simulación ofensiva cuyos resultados ayudan a identificar riesgosEstablezca y ejecute el plan de gestión de riesgos y decida qué riesgos residuales acepta
Artículo 31
Aviso de transparencia y etiquetado
Sin función asociadaAvise de antemano y etiquete los resultados de los servicios de IA que proporciona a terceros

Por las características de los modelos de IA, la redacción puede variar al repetir una ejecución. Si el dictamen cambia, se registra la diferencia.

Pruebas de IA con equipos de simulación ofensiva

Evalúe la seguridad de su servicio de IA antes del lanzamiento

Si opera un servicio que incorpora IA generativa, como un chatbot de atención al cliente o un agente interno, se aplican las obligaciones de aviso y etiquetado del artículo 31.
Si pertenece a un ámbito de alto impacto, se añade la gestión de riesgos del artículo 34.

  • Comprobamos de forma repetida los riesgos de inyección directa e indirecta de instrucciones, evasión de restricciones y manipulación de herramientas.
  • También evaluamos formulaciones en coreano que los conjuntos de datos en inglés pueden pasar por alto.
  • El informe documenta las deficiencias verificadas, las condiciones de prueba y las propuestas de medidas de protección. Puede utilizarlo como material de apoyo para su documentación de gestión de riesgos.
  • El informe recoge el alcance y los escenarios probados. La evaluación no garantiza que se identifiquen todos los ataques posibles.
Ver la evaluación de seguridad de IA y LLM
Preguntas frecuentes

Preguntas frecuentes

¿Se considera Genox Cybersecurity AI IA de alto impacto?

Genox se diseñó para operaciones de seguridad como la clasificación de programas maliciosos, la correlación de alertas y la priorización de vulnerabilidades. Estos usos no se dirigen directamente a los ámbitos enumerados por la Ley. La respuesta puede cambiar según el uso del cliente, por lo que revisamos juntos los usos previstos durante la implantación.

¿Qué debemos conservar para cumplir la obligación de explicar?

Un único registro debe vincular los datos examinados, los criterios utilizados y la conclusión. Genox guarda en cada dictamen las pruebas, el razonamiento y el nivel de confianza, así como las pruebas que contradicen el resultado. Si necesita información de la fase de desarrollo del modelo, como una descripción de los datos de entrenamiento, consulte con Genox. Revisaremos qué podemos facilitarle.

¿Emite Genox certificados ISO/IEC 42001?

Genox presta asesoramiento para ajustar las políticas de IA al texto público de ISO/IEC 42001. El certificado lo emite un organismo acreditado.

¿Qué más debe revisar una entidad financiera?

Las directrices de IA para el sector financiero de la Comisión de Servicios Financieros entraron en vigor el 22 de junio de 2026. Son de autorregulación y establecen que, si la IA se considera de alto impacto, se aplican por separado las obligaciones de esta Ley. Consulte la guía sobre supervisión financiera electrónica e IA en el sector financiero.

Referencias

Referencias

Contacto

Empiece por un inventario de los usos de IA en su empresa

Si aún no dispone de una lista de qué equipos usan IA, qué IA utilizan y con qué fines, empezamos por ella.
Después evaluamos el alto impacto y definimos el alcance de las pruebas.

Hable con un experto
en seguridad de Genox.

Hable con nosotros