Japón estudia imponer obligaciones de seguridad y sanciones a los desarrolladores de IA avanzada

Las órdenes vinculantes podrían dar a Japón nuevas facultades para controlar la IA peligrosa

Japón estudia exigir a las empresas responsables de la inteligencia artificial avanzada que garanticen su seguridad, y sancionar a quienes desobedezcan las órdenes del Gobierno después de que surjan problemas graves. La propuesta daría a las autoridades herramientas más eficaces para actuar frente a las empresas que se nieguen a cooperar ante riesgos como los ciberataques, el uso delictivo y los sistemas que se apartan de las instrucciones previstas.

La orientación se dio a conocer el día 11, tras las deliberaciones de un grupo de trabajo cerrado sobre legislación en materia de IA. Las autoridades pretenden presentar antes de fin de año el marco completo de cambios institucionales, incluidas las modificaciones legales. Las sanciones que se estudian se centrarían en incidentes relacionados con IA de gran capacidad.

La secuencia de aplicación propuesta es fundamental: si surge un problema y una empresa se niega a dialogar, el Gobierno podría emitir una orden vinculante cuando sea necesario. Desobedecerla podría dar lugar a una sanción. Los desarrolladores, investigadores y proveedores de servicios al público podrían tener responsabilidades distintas, ya que cada uno controla una parte diferente de un sistema de IA.

La Oficina del Gabinete de Japón ya había expuesto las bases de una supervisión más estricta en su documento de política sobre gobernanza de la IA de mayo de 2024. Publicado por el Equipo de Estrategia de IA, proponía estudiar si los requisitos legales deberían complementar las directrices voluntarias para la IA que entraña riesgos considerables. También recogía propuestas de órdenes de mejora y de identificación pública de las empresas en las que era especialmente probable un uso indebido.

El debate actual pone de relieve esa cuestión de política anterior: ¿cómo puede Japón lograr que las empresas aborden peligros graves sin limitar la investigación y los servicios útiles? Para los usuarios, la cuestión práctica es si las autoridades podrán obtener cooperación y medidas correctivas cuando un sistema avanzado genere una amenaza.

¿Quién tendría que cumplir las nuevas normas?

Las empresas de IA participan en varias etapas. Los investigadores desarrollan técnicas, los desarrolladores de modelos crean los sistemas subyacentes y los proveedores de servicios los convierten en productos que utiliza la gente. Un modelo fundacional es una IA subyacente entrenada para realizar muchas tareas que otras empresas pueden adaptar a servicios específicos.

El Gobierno aún debe determinar qué empresas quedarían comprendidas, qué se consideraría una IA suficientemente peligrosa y qué tipo o cuantía tendrían las sanciones. El calendario anunciado el día 11 no especifica mes ni año, mientras que el calendario de política independiente del 19 de junio tampoco indica el año, por lo que no se precisa la relación exacta entre ambas fechas.

El documento de política de mayo de 2024 sostiene que el tamaño del modelo, el uso previsto y el riesgo deben evaluarse en conjunto. Advierte que los avances técnicos futuros podrían permitir que modelos más pequeños alcancen mayores capacidades, por lo que el tamaño, por sí solo, no sería un criterio fiable para fijar un límite regulatorio.

Los desarrolladores extranjeros también serían relevantes. El documento señala que el marco japonés debería abarcar la IA suministrada a Japón desde el extranjero y contemplar respuestas eficaces cuando las empresas incumplan las normas. Incluir a grandes empresas tecnológicas estadounidenses haría de la cooperación internacional y de la capacidad para hacer cumplir las órdenes cuestiones prácticas para los usuarios japoneses.

Por qué preocupa la cooperación voluntaria

El Consejo de Estrategia de IA y el Grupo de Estudio sobre Instituciones de IA expusieron un enfoque selectivo de la regulación vinculante en su informe provisional de política del 4 de febrero de 2025. Recomendaron respetar la autonomía empresarial y limitar la regulación legal a cuestiones que no cabría esperar que las empresas resolvieran mediante esfuerzos voluntarios.

El informe señala que la IA que causa, o que tiene muchas probabilidades de causar, problemas graves para la vida, la seguridad física, los bienes, la seguridad pública o la seguridad nacional requiere una respuesta acorde con la gravedad del riesgo.

Las investigaciones gubernamentales dependen de información en poder de las empresas. Por ello, el informe pide un marco legal que permita a las autoridades solicitar cooperación, incluida información a empresas nacionales y extranjeras. También señala que las directrices gubernamentales y las investigaciones sobre el uso real de la IA deberían contar con una base legal para ser eficaces.

Las sanciones darían más fuerza a esa estructura. El informe explica que las sanciones legales pueden facilitar la aplicación de las normas, pero también advierte que los requisitos rígidos pueden ralentizar el desarrollo y llevar tiempo definirlos con precisión. La respuesta propuesta frente a las empresas que no cooperen coincide con este enfoque centrado en los casos en que la acción voluntaria no basta.

La ciberseguridad impulsa la urgencia más reciente

La IA avanzada puede realizar tareas técnicas con menos instrucciones detalladas de las personas. Un sistema autónomo puede perseguir un objetivo asignado mediante varios pasos y elegir acciones durante el proceso. Esa capacidad puede facilitar actividades legítimas, pero también exige controles de seguridad más estrictos cuando el sistema puede interactuar con computadoras o redes.

En Estados Unidos se han denunciado casos de acceso no autorizado e inesperado por parte de una IA avanzada en desarrollo. También se sospecha que el uso indebido de la IA está relacionado con algunos ciberataques recientes. Estas preocupaciones han reforzado los argumentos a favor de una respuesta gubernamental cuando los desarrolladores se niegan a cooperar ante comportamientos peligrosos.

Un borrador de revisión del Plan Básico de IA de Japón, presentado el 19 de junio, sitúa los riesgos de ciberseguridad en el centro de los cambios propuestos. En él se identifica un modelo estadounidense llamado Claude Mythos como capaz de detectar de forma autónoma vulnerabilidades en sistemas informáticos. Una vulnerabilidad es un fallo que un atacante puede aprovechar para obtener acceso o interrumpir un servicio.

Detectar estas vulnerabilidades puede ayudar a los equipos de defensa a reparar programas informáticos. Esa misma capacidad entraña riesgos si se utiliza para facilitar accesos no autorizados. Por ello, el borrador combina evaluaciones de seguridad más rigurosas con planes para reforzar las capacidades defensivas dirigidas por la Agencia Nacional de Policía.

Japón prevé ampliar el Instituto de Seguridad de la IA

El Instituto de Seguridad de la IA, conocido como AISI, desempeñaría un papel más amplio en la revisión del borrador del plan básico. Japón pretende ampliar sus capacidades y colaborar con gobiernos extranjeros y desarrolladores de todo el mundo para verificar modelos avanzados de Japón y de otros países.

Japón creó el AISI dentro de la Agencia de Promoción de las Tecnologías de la Información en febrero de 2024. El documento de política de mayo de 2024 describe su labor en directrices prácticas de seguridad, métodos de evaluación e investigación técnica, además de la cooperación con organismos similares de Estados Unidos y Reino Unido.

El documento de política también propone un mecanismo en el que la legislación establezca las responsabilidades básicas en materia de gestión de riesgos e intercambio de información, mientras las instituciones especializadas colaboran con el Gobierno y la industria para elaborar directrices y normas detalladas. Este mecanismo permitiría adaptar las prácticas técnicas a medida que avance la IA.

El AISI también podría apoyar las respuestas ante sistemas perjudiciales. El documento propone estudiar un mecanismo parecido al proceso de ciberseguridad de programas informáticos que ya existe en Japón, mediante el cual la Agencia de Promoción de las Tecnologías de la Información investiga problemas y publica medidas que deben adoptar las empresas o los usuarios.

Cómo ha evolucionado el debate sobre la política

Las propuestas de Japón han avanzado desde las directrices voluntarias hasta la preparación institucional y el análisis de obligaciones legales. Los documentos oficiales muestran una preferencia constante por combinar estas herramientas en lugar de imponer los mismos requisitos a todas las empresas de IA.

• Mayo de 2023: El Consejo de Estrategia de IA publicó un primer análisis de los riesgos de la IA y señaló que unas salvaguardias adecuadas eran necesarias para ampliar su desarrollo y uso.
• Diciembre de 2023: Los líderes del G7 aprobaron el marco de política del Proceso de Hiroshima sobre IA, que incluye principios internacionales y un código de conducta para los desarrolladores de IA avanzada.
• Febrero de 2024: Japón creó el AISI dentro de la Agencia de Promoción de las Tecnologías de la Información.
• Abril de 2024: Japón publicó la versión 1.0 de sus Directrices de IA para las empresas.
• Mayo de 2024: El Equipo de Estrategia de IA de la Oficina del Gabinete expuso opciones para complementar las directrices voluntarias con requisitos legales.
• 4 de febrero de 2025: El Consejo de Estrategia de IA y el Grupo de Estudio sobre Instituciones de IA recomendaron una legislación específica para los casos en que los esfuerzos voluntarios fueran insuficientes.

La revisión del borrador del plan básico del 19 de junio prevé la aprobación del Gabinete en julio, después de una consulta pública. Es posterior al plan inicial, adoptado en diciembre del año anterior, por lo que la revisión propuesta se presentaría poco más de seis meses después de ese plan. El proceso independiente del grupo de trabajo pretende presentar sus propuestas institucionales más amplias antes de fin de año.

Las leyes vigentes ya regulan algunos usos de la IA

El documento de política de Japón de mayo de 2024 distingue entre las normas dirigidas a los desarrolladores de IA avanzada y las leyes que regulan productos y actividades concretos. Señala que, en ese momento, Japón no tenía un marco vinculante específico para la IA de gran escala o peligrosa comparable a los que se estaban desarrollando en Europa y Estados Unidos. Las leyes penales y de privacidad, así como las normas sobre productos, ya se aplicaban a las conductas pertinentes.

Los dispositivos médicos que utilizan IA están sujetos a requisitos de seguridad y eficacia en virtud de la Ley de Productos Farmacéuticos y Dispositivos Médicos. Los dispositivos que presentan riesgos especialmente elevados requieren autorización tras una evaluación que puede incluir datos de ensayos clínicos. El documento también señala que los médicos siguen siendo responsables de sus decisiones médicas finales cuando utilizan la IA como herramienta de apoyo.

Los vehículos que utilizan sistemas de conducción automatizada deben cumplir los requisitos de la Ley de Vehículos de Transporte por Carretera. Se evalúa si sus sistemas automatizados son adecuados para las condiciones en las que están diseñados para funcionar.

Las decisiones laborales y crediticias plantean otras preocupaciones. El documento describe la revisión por parte de personas de las solicitudes rechazadas en un ejemplo en el que la IA analiza entrevistas en video. También señala que los métodos avanzados para evaluar la capacidad de reembolso de un crédito deben evitar la discriminación injusta, los prejuicios y otras desventajas graves. En todos estos ejemplos, el grado de control humano es importante: sustituir la decisión de una persona puede generar riesgos distintos de los que supone proporcionarle información para que la tenga en cuenta.

Los deepfakes, el trabajo creativo y la educación también están incluidos

La revisión del borrador del plan básico incluye el desarrollo de tecnología para detectar deepfakes. Los deepfakes son imágenes, audios o videos convincentes creados o manipulados con IA, que pueden utilizarse para suplantar a personas o difundir afirmaciones falsas.

El documento de política de mayo de 2024 identifica varias respuestas técnicas: marcas de agua que indiquen que un contenido se generó con IA, información que registre su procedencia y etiquetas aplicadas por plataformas en línea. También vincula los riesgos de la IA con iniciativas más amplias contra la publicidad fraudulenta y la información perjudicial en internet.

El trabajo creativo sigue una vía jurídica y de política independiente. El documento registra la aprobación, el 15 de marzo de 2024, de directrices sobre IA y derechos de autor por parte de un subcomité del consejo de la Agencia de Asuntos Culturales, junto con los debates de la Oficina del Gabinete sobre propiedad intelectual en la era de la IA. Esos debates abarcan las normas legales, la protección técnica y los contratos que prevén una compensación. También hay preocupación por las voces, la apariencia y los estilos artísticos.

La educación figura en la revisión propuesta del plan básico porque una dependencia excesiva de la IA podría debilitar el pensamiento y el criterio independientes. Al mismo tiempo, Japón pretende impulsar la comercialización temprana de la IA autónoma. Por tanto, la política busca ampliar tanto el uso de sistemas capaces como las medidas para preservar las habilidades y el control humanos.

El equilibrio que Japón intenta alcanzar

Los documentos oficiales de Japón describen un papel más limitado para la regulación vinculante que el de un sistema general que abarque todo el desarrollo de IA. El documento de mayo de 2024 favorece las directrices voluntarias para los desarrolladores cuyo trabajo presenta un riesgo limitado, entre ellos muchos investigadores y empresas emergentes, y plantea requisitos más estrictos para los sistemas que podrían tener mayor impacto.

El mismo documento compara los enfoques internacionales vigentes en ese momento. La legislación de la Unión Europea sobre IA incluía obligaciones basadas en el riesgo y sanciones económicas sustanciales. Estados Unidos combinaba compromisos voluntarios con requisitos de presentación de informes para determinados modelos grandes, en virtud de las facultades legales existentes. Ambos enfoques imponían algunas obligaciones vinculantes a los desarrolladores de sistemas potentes.

Las órdenes y sanciones propuestas por Japón abordarían una debilidad concreta de un enfoque centrado en la cooperación: puede ser necesario actuar ante un sistema peligroso incluso cuando su proveedor se niega a colaborar. La definición de las empresas comprendidas, sus obligaciones y las condiciones para emitir una orden determinará cómo se ejercerá esa facultad en relación con los usuarios y los desarrolladores.

Puntos clave

• Japón estudia imponer obligaciones de seguridad y sanciones centradas en los riesgos graves de la IA avanzada.
• El proceso propuesto permitiría emitir órdenes vinculantes contra empresas que no cooperen y sancionar su incumplimiento.
• Los documentos oficiales de política favorecen requisitos legales específicos cuando los esfuerzos voluntarios son insuficientes.
• Una revisión del borrador del Plan Básico de IA incluye más pruebas de seguridad, defensas de ciberseguridad, detección de deepfakes y medidas educativas.
• El Gobierno pretende presentar antes de fin de año un marco más amplio para los cambios institucionales.