Corea del Sur promulga la primera ley integral de IA del mundo, que busca equilibrar la innovación y la seguridad

Corea del Sur toma la delantera mundial con su Ley Básica de IA

Corea del Sur promulgó oficialmente lo que considera el primer conjunto integral de leyes del mundo sobre inteligencia artificial. La «Ley Básica de IA», compuesta por seis capítulos y 43 artículos, entró en vigor el jueves y establece un marco regulatorio que abarca un espectro inusualmente amplio de actividades y actores del sector de la IA. La legislación busca proteger a la ciudadanía y, al mismo tiempo, sentar lo que las autoridades describen como una «base de confianza» en una sociedad cada vez más impulsada por la IA.

Con esta medida histórica, Corea del Sur se adelanta a otras grandes economías al establecer un enfoque unificado para la gobernanza de la IA. Aunque la Unión Europea comenzó a aplicar algunas regulaciones relacionadas con la IA el año pasado, la mayor parte de su Ley de IA se implementará gradualmente a partir de agosto. Estados Unidos aún no cuenta con una ley federal sobre IA, aunque la Casa Blanca emitió el mes pasado una orden ejecutiva que cuestiona las leyes estatales «onerosas» que, a su juicio, obstaculizan la innovación en IA. China ha adoptado un enfoque distinto e incorporó ciertas disposiciones sobre ética o supervisión de riesgos a su legislación vigente de ciberseguridad.

La Ley Básica de IA de Corea del Sur representa un avance significativo en el esfuerzo mundial por regular las tecnologías de inteligencia artificial. La ley busca alcanzar dos objetivos complementarios: fomentar el crecimiento de la industria de IA surcoreana y establecer las salvaguardias necesarias para proteger a la ciudadanía de los posibles riesgos asociados con la implementación de la IA.

Partimos del nivel más básico de consenso mundial. El objetivo no es frenar el desarrollo de la IA mediante la regulación, sino garantizar que las personas puedan utilizarla con confianza.

Estas declaraciones de Kim Kyeong-man, viceministro de la oficina de política de IA del Ministerio de Ciencia y TIC, ponen de relieve la intención de Corea del Sur de crear un marco equilibrado que no obstaculice el avance tecnológico y, a la vez, atienda las preocupaciones públicas sobre la seguridad y la fiabilidad.

Definición de los sistemas de IA de alto impacto

Una característica central de la nueva ley surcoreana es su atención a la «IA de alto impacto»: sistemas que pueden afectar de manera significativa la vida, la seguridad o los derechos fundamentales de las personas. La legislación identifica específicamente 11 ámbitos críticos en los que los sistemas de IA requieren mayor supervisión y medidas de transparencia:

• Sistemas de suministro de energía
• Procesos de producción de agua potable
• Sistemas de servicios de salud
• Desarrollo y uso de dispositivos médicos
• Gestión de materiales e instalaciones nucleares
• Análisis de información biométrica para investigaciones penales
• Evaluación para el empleo y la concesión de préstamos
• Sistemas y gestión del transporte
• Toma de decisiones gubernamentales que afectan a los servicios públicos
• Evaluación de estudiantes en el ámbito educativo
• Otros ámbitos que afectan de manera significativa la vida, la seguridad y los derechos de las personas

Para estas aplicaciones de alto impacto, las empresas deben aplicar varias salvaguardias fundamentales. Deben poder explicar la lógica de decisión de sus sistemas de IA si se les solicita, garantizar que las personas puedan intervenir cuando sea necesario y avisar claramente a los usuarios de que están interactuando con servicios basados en IA. Esto se aplica a situaciones como el uso de sistemas para seleccionar candidatos a préstamos o empleos.

La ley establece una distinción importante entre la «IA de alto impacto» y lo que Corea del Sur denomina «IA de alto rendimiento». Mientras que la Unión Europea se centra principalmente en los riesgos específicos de cada aplicación en sus regulaciones, Corea del Sur ha adoptado un enfoque diferente, basado en umbrales técnicos para determinar qué sistemas deben regularse. Estos umbrales incluyen indicadores como el cómputo acumulado utilizado durante el entrenamiento, por lo que solo una cantidad muy limitada de modelos avanzados estaría sujeta a los requisitos de seguridad más estrictos.

Por el momento, el Gobierno surcoreano indica que ningún modelo de IA existente, ya sea nacional o internacional, cumple los criterios para quedar sujeto a la regulación prevista en esta disposición sobre IA de alto rendimiento. Del mismo modo, las autoridades afirman que actualmente ningún servicio nacional se encuentra en la categoría de «alto impacto», aunque los vehículos totalmente autónomos de nivel 4 o superior podrían cumplir estos criterios en el futuro.

Requisitos de transparencia y etiquetado de IA

Uno de los aspectos más visibles de la regulación surcoreana sobre IA son los requisitos de transparencia para el contenido generado por esta tecnología. Según la nueva ley, las empresas deben incluir etiquetas claras o audibles, como marcas de agua, en el contenido generado por IA que podría confundirse con la realidad. El requisito se dirige específicamente a los contenidos ultrafalsos y otros resultados de IA que presentan riesgos de desinformación o engaño.

El etiquetado varía según el tipo de contenido. Cuando distinguir entre lo real y lo generado por IA es fundamental para la seguridad o la autenticidad, el etiquetado visible es obligatorio. Sin embargo, en el caso de contenido creativo elaborado con IA, como videojuegos, animaciones o webtoons, la ley permite métodos de divulgación menos intrusivos, como incluir etiquetas en metadatos que podrían no estar visibles de inmediato para los usuarios.

Este enfoque matizado ha planteado dudas en sectores como el de la creación de webtoons, donde plataformas y creadores no tienen claro qué abarca exactamente el término «generado por IA». Persiste la preocupación por si el uso parcial de IA —por ejemplo, para generar fondos, colorear o editar— podría activar obligaciones de divulgación. La ley no regula a los usuarios particulares que simplemente utilizan herramientas de IA, pero sí se aplica a las plataformas y empresas que ofrecen herramientas de creación basadas en IA o distribuyen obras generadas por esta tecnología.

Aplicar marcas de agua al contenido generado por IA es la salvaguardia mínima para prevenir efectos adversos del uso indebido de esta tecnología, como los contenidos ultrafalsos.

Esta declaración de un funcionario del ministerio subraya la importancia que el Gobierno atribuye al etiquetado como medida básica de protección frente al uso indebido de la IA. Los requisitos de transparencia van más allá del etiquetado de contenidos e incluyen la obligación de avisar cuando los usuarios interactúan con servicios basados en IA. Las empresas deben informar con antelación a los usuarios cuando ofrecen productos o servicios que utilizan IA de alto impacto o generativa, normalmente mediante mecanismos como alertas emergentes o avisos destacados.

Estructura de gobernanza y apoyo a la industria

La Ley Básica de IA establece una estructura integral de gobernanza para la política de IA en Corea del Sur. El Ministerio de Ciencia y TIC es la principal autoridad responsable de aplicar dicha política, mientras que el Comité Nacional de IA, dependiente del presidente, debate y decide las orientaciones generales en la materia. La legislación también crea un Centro de Política de IA y un Instituto de Seguridad de la IA para apoyar la aplicación de las políticas y abordar las preocupaciones relacionadas con la seguridad.

Además de las medidas regulatorias, la ley incluye numerosas disposiciones destinadas a respaldar el desarrollo y el crecimiento de la IA en Corea del Sur. Estas medidas de promoción incluyen apoyo a la investigación y el desarrollo de IA, la estandarización de esta tecnología, la creación de datos para su entrenamiento e iniciativas para ayudar a las empresas a adoptarla y utilizarla. Se presta especial atención al apoyo a las pequeñas y medianas empresas, las empresas emergentes y la formación de talento en el campo de la IA.

La ley también sienta las bases jurídicas para establecer un «Plan Básico de IA», que servirá como hoja de ruta para el desarrollo de esta tecnología en Corea del Sur. Este enfoque integral reconoce que una regulación eficaz de la IA requiere no solo restricciones, sino también apoyo activo a la innovación y la competitividad en el panorama mundial de la IA.

Para reducir la carga inicial de las empresas, el Gobierno surcoreano ha establecido un período de gracia de al menos un año. Durante ese tiempo, las autoridades no realizarán investigaciones para determinar los hechos ni impondrán sanciones administrativas, sino que se centrarán en las consultas y la formación. También se ha creado una oficina de asistencia sobre la Ley de IA para ayudar a las empresas a determinar si sus sistemas están comprendidos en la ley y cómo deben responder.

La línea de asistencia de la Ley Marco de IA, atendida por expertos de organizaciones como el Instituto de Seguridad de la IA y la Agencia Nacional de la Sociedad de la Información, ofrece consultas confidenciales y orientación a quienes desarrollan, comercializan o utilizan herramientas de inteligencia artificial y buscan cumplir la nueva normativa.

Requisitos de cumplimiento y sanciones

Las empresas que operan en Corea del Sur o prestan servicios a usuarios surcoreanos deben cumplir obligaciones específicas en virtud de la nueva ley. Las empresas extranjeras de IA que reúnan ciertos criterios —como tener ingresos anuales mundiales de al menos un billón de wones (681 millones de dólares), ventas nacionales de 10.000 millones de wones o más, o al menos un millón de usuarios diarios en el país— deben designar a un representante local que actúe de enlace con las autoridades. Actualmente, grandes empresas como OpenAI y Google están sujetas a estos requisitos.

Los operadores de IA se dividen en dos categorías: quienes desarrollan y proporcionan IA, y quienes ofrecen productos o servicios que utilizan la IA proporcionada por los desarrolladores. Ambas categorías tienen obligaciones de transparencia, pero la regulación se centra principalmente en los sistemas de IA de alto impacto y de IA generativa.

El enfoque de aplicación de la ley surcoreana es deliberadamente más moderado que el de otras jurisdicciones. No impone sanciones penales. En su lugar, da prioridad a las órdenes correctivas en caso de incumplimiento y solo impone multas, con un límite de 30 millones de wones (26.200 dólares), si no se acatan esas órdenes. Según han subrayado funcionarios del Gobierno, esto refleja un enfoque orientado al cumplimiento, y no al castigo.

A modo de comparación, el marco regulatorio de la Unión Europea establece sanciones mucho más severas, con distintos niveles de penalización según el tipo de infracción, incluidas multas administrativas de hasta el 7% de la facturación anual mundial. Esta diferencia significativa en la severidad de las sanciones refleja la intención declarada de Corea del Sur de mantener una regulación mínima y, al mismo tiempo, establecer un marco básico de seguridad.

Las tres infracciones específicas que pueden dar lugar a multas según la ley surcoreana son: no informar a las autoridades sobre operaciones basadas en IA al ofrecer productos o servicios que utilizan IA de alto impacto o generativa; no designar a un representante nacional cuando se exige; y no cumplir las órdenes de suspensión o corrección emitidas por el ministro de Ciencia y TIC.

Respuesta de la industria y preocupaciones de las empresas emergentes

Aunque el Gobierno presenta la Ley Básica de IA como un enfoque equilibrado que fomenta la innovación y garantiza la seguridad, no todos en el sector tecnológico comparten esa opinión. Las empresas emergentes surcoreanas han expresado preocupación por la posible carga que supone cumplir la nueva normativa, sobre todo porque entrará en vigor antes que marcos similares de otros países.

Según una encuesta de Startup Alliance, solo el 2% de las empresas emergentes centradas en la IA afirma contar con un plan formal de cumplimiento, mientras que aproximadamente la mitad reconoce que no entiende plenamente los requisitos de la nueva ley. Esta falta de claridad ha generado inquietud entre los fundadores, que temen que el lenguaje impreciso de la legislación los obligue a adoptar estrategias de desarrollo excesivamente cautelosas para evitar riesgos regulatorios.

Hay cierto resentimiento: ¿por qué tenemos que ser los primeros en hacerlo?

Este comentario de Lim Jung-wook, codirector de Startup Alliance de Corea del Sur, refleja la frustración de algunos emprendedores por tener que cumplir una regulación integral de la IA antes que sus competidores internacionales. Muchos fundadores se preguntan si ser el primer país en regular la IA dará una ventaja a Corea del Sur o pondrá a sus empresas en desventaja en el mercado internacional.

El presidente Lee Jae Myung ha reconocido estas preocupaciones y ha instado a los responsables de formular políticas a escuchar las opiniones del sector y garantizar un apoyo adecuado a las empresas de capital de riesgo y a las empresas emergentes. En una reunión reciente con sus asesores, Lee destacó la importancia de aprovechar al máximo el potencial de la industria mediante apoyo institucional y gestionar de forma preventiva los efectos adversos previstos.

El Ministerio de Ciencia y TIC ha respondido a estas preocupaciones con planes para crear una plataforma de orientación y un centro de apoyo específico para las empresas durante el período de gracia. Un portavoz señaló que el Gobierno sigue analizando medidas para reducir al mínimo la carga para la industria y que estudia prorrogar el período de gracia si las condiciones del sector, tanto en el país como en el extranjero, lo justifican.

Comparación con los enfoques internacionales

La Ley Básica de IA de Corea del Sur representa una filosofía regulatoria propia, distinta de los enfoques de otras grandes economías. La legislación toma como referencia tanto el modelo estadounidense, centrado en la autonomía del sector privado, como el marco regulatorio de la Unión Europea, que hace hincapié en la seguridad y la fiabilidad. En última instancia, Corea del Sur ha elegido una vía propia que busca armonizar una regulación mínima con la promoción de la IA para alcanzar el objetivo de convertirse en un país líder en competitividad mundial en este ámbito.

Al igual que la Ley de IA de la Unión Europea, el marco surcoreano define los sistemas de IA y establece distintas obligaciones relacionadas con la IA de alto impacto, entre ellas las evaluaciones de impacto sobre los derechos fundamentales (FRIA, por sus siglas en inglés). Sin embargo, el nivel concreto de regulación podría cambiar con futuras disposiciones complementarias, cuya publicación está prevista para el primer semestre de 2025.

Una diferencia significativa entre los enfoques de Corea del Sur y la Unión Europea radica en cómo se estructuran las obligaciones. La Ley de IA de la Unión Europea establece obligaciones diferenciadas según el tipo de actor que participa en la cadena de valor de la IA, mientras que la Ley Marco de IA surcoreana define las obligaciones de manera integral, sin distinguir entre los distintos tipos de actores. Este enfoque más sencillo podría reducir la complejidad, pero también plantear dificultades para aplicar una supervisión adecuada a un ecosistema de IA diverso.

La definición surcoreana de IA de alto impacto también difiere del método de la Unión Europea. Mientras que la UE se centra en los riesgos específicos de cada aplicación y regula la IA utilizada en ámbitos como la atención médica, la contratación y la aplicación de la ley, Corea del Sur utiliza umbrales técnicos para determinar qué sistemas deben regularse. Entre los indicadores se encuentra el cómputo acumulado utilizado durante el entrenamiento, lo que podría reducir considerablemente el número de sistemas sujetos a regulación con las capacidades tecnológicas actuales.

La diferencia de filosofía regulatoria también se refleja en las sanciones por infracciones. La Unión Europea ha establecido sanciones severas, con multas de hasta el 7% de la facturación anual mundial, mientras que el marco surcoreano impone multas administrativas de hasta 30 millones de wones (unos 26.200 dólares). Esta marcada diferencia refleja el énfasis de Corea del Sur en el cumplimiento y la corrección, en lugar del castigo.

Repercusiones mundiales y perspectivas

La promulgación de una legislación integral sobre IA en Corea del Sur tiene importantes repercusiones para el panorama mundial de esta tecnología. Como segundo país, después de la Unión Europea, en adoptar un marco regulatorio integral para la IA, Corea del Sur ofrece un nuevo modelo legislativo que otros países podrían tener en cuenta al elaborar sus propios enfoques de gobernanza.

La aprobación de la ley a pesar de la agitación política provocada por la declaración de la ley marcial del presidente Yoon Suk Yeol y su posterior destitución demuestra que existe consenso entre los distintos partidos sobre la importancia de regular la IA. La Asamblea Nacional aprobó la ley en sesión plenaria el 26 de diciembre de 2024, con un amplio apoyo de partidos de distintas tendencias, lo que pone de relieve el acuerdo político general sobre la necesidad de afrontar los desafíos de la IA.

De cara al futuro, las autoridades surcoreanas han reconocido que la legislación actual es un punto de partida, no un producto terminado. La aplicación detallada de muchas de sus disposiciones dependerá de las normas complementarias y las directrices específicas de cada sector, que se definirán durante el período preparatorio de un año previo a la entrada en vigor plena de la ley, en enero de 2026.

La función coordinadora del Comité Nacional de IA será crucial mientras Corea del Sur busca armonizar los conocimientos especializados de los ministerios pertinentes, teniendo en cuenta las características de los distintos objetivos regulatorios o sectores. A medida que la IA se extiende a todos los ámbitos —desde la información personal y los derechos de autor hasta la atención médica y la defensa—, una gobernanza eficaz exigirá una coordinación cuidadosa entre los distintos organismos gubernamentales.

A medida que se intensifican los debates sobre normas y gobernanza mundial de la IA, ha aumentado aún más la necesidad de interoperabilidad y cooperación internacional en materia regulatoria para garantizar la fiabilidad de esta tecnología. El enfoque de Corea del Sur podría influir en esos debates, en particular sobre cómo equilibrar la innovación y las preocupaciones de seguridad en la gobernanza de la IA.

En resumen

• Corea del Sur ha promulgado la primera ley integral de IA del mundo, la Ley Básica de IA, que abarca el desarrollo, la implementación y el uso de la inteligencia artificial.
• La ley define la «IA de alto impacto» en 11 sectores críticos, entre ellos la atención médica, las finanzas, el transporte y los servicios gubernamentales, y exige mayor supervisión y la posibilidad de intervención humana.
• El contenido generado por IA debe llevar etiquetas: marcas de agua visibles para el que podría confundirse con la realidad y etiquetas menos intrusivas para obras creativas como los webtoons y las animaciones.
• Las empresas extranjeras de IA que superen determinados umbrales de ingresos o usuarios deben designar a un representante local en Corea del Sur.
• Las multas por incumplimiento tienen un límite de 30 millones de wones (26.200 dólares), muy inferior al de las sanciones de la Unión Europea, que pueden alcanzar el 7% de la facturación anual mundial.
• La ley incluye un período de gracia de un año centrado en la orientación, no en el castigo, y una línea de asistencia específica para las empresas que necesiten ayuda para cumplir la normativa.
• Las empresas emergentes han expresado preocupación por la carga de cumplimiento y el lenguaje impreciso de la legislación; solo el 2% afirma contar con planes formales de cumplimiento.
• La ley busca situar a Corea del Sur entre las tres principales potencias mundiales en IA y, al mismo tiempo, sentar una base de confianza para esta tecnología.
• El enfoque surcoreano difiere del de la Unión Europea porque utiliza umbrales técnicos, en lugar de riesgos específicos de cada aplicación, para regular los sistemas avanzados de IA.
• La aplicación plena comenzará en enero de 2026, tras un período preparatorio de un año para elaborar normas complementarias y directrices detalladas.