Una propuesta de 99 artículos para decidir qué se debería permitir hacer a la IA
Investigadores de la Universidad de Zhejiang han presentado una propuesta experta de ley sobre inteligencia artificial que consta de ocho capítulos y 99 artículos. Su idea central es que la autoridad otorgada a un sistema de IA debe corresponderse con su fiabilidad y con las consecuencias de la tarea que realiza.
Contenido
- Una propuesta de 99 artículos para decidir qué se debería permitir hacer a la IA
- Cómo se elaboró el borrador
- Tres preguntas que sustentan las normas propuestas
- La capacidad y la fiabilidad se evaluarían por separado
- ¿Qué tareas recibirían un mayor escrutinio?
- Un ejemplo médico explica el principio de correspondencia
- La aprobación tendría que cambiar a medida que evoluciona la IA
- La protección de los derechos y las obligaciones empresariales se concretan en los detalles
- Aspectos clave
La propuesta, versión 1.0 de la Universidad de Zhejiang, se presentó en un acto celebrado el 24 de septiembre. El aviso oficial del evento convocó la reunión para el 24 de septiembre de 2026, de las 14:00 a las 17:30, en el campus de Zijingang. El programa situó el desarrollo del sector junto a la protección de los derechos y la rendición de cuentas, en consonancia con las dos necesidades que la propuesta busca atender.
Para las personas afectadas por la IA, las preocupaciones prácticas son inmediatas. ¿Puede el operador de un modelo utilizar sin permiso el trabajo de un ilustrador para entrenarlo? ¿Quién asume la responsabilidad cuando un modelo lingüístico da una respuesta dañina e incorrecta? ¿Cómo puede alguien conservar pruebas y buscar reparación después de que se difunda en internet un video que utiliza su rostro sin permiso?
Las empresas afrontan otro conjunto de preocupaciones: requisitos de cumplimiento que se superponen, procedimientos engorrosos antes de poder utilizar productos y costos que a las compañías más pequeñas puede resultarles difícil asumir. Los investigadores afirman que su enfoque busca proteger los derechos y, al mismo tiempo, responder a esas presiones.
El documento es una propuesta académica para debatir y revisar. Su idea más desarrollada es un método para evaluar la IA en un contexto concreto, relacionando lo que puede hacer un sistema, la fiabilidad con la que puede operar y lo que está en juego para las personas afectadas.
Cómo se elaboró el borrador
El equipo redactor dedicó casi seis meses a elaborar la propuesta y completó cinco rondas de revisión intensiva. Un borrador inicial de 174 artículos se redujo a 99, es decir, 75 artículos menos, una reducción de alrededor del 43 %. Esto muestra cuánto se condensó el texto durante su elaboración, aunque el número de artículos por sí solo dice poco sobre las obligaciones que cada disposición impondría a los usuarios o a las empresas.
Los investigadores visitaron más de 20 empresas de IA en Hangzhou, así como importantes compañías de internet. Su trabajo también se nutrió de debates en el foro legislativo de Zhijiang, intercambios con los ministerios y comisiones pertinentes y varias rondas de revisión por expertos. La investigación avanzó en paralelo al trabajo sobre dos proyectos de reglamentos locales relativos al sector de la IA de Hangzhou y al desarrollo de la ciudad como centro de innovación.
La organización estuvo a cargo de la Facultad de Derecho Guanghua de la Universidad de Zhejiang, el Instituto de Investigación sobre Derecho Digital y Gobernanza de la universidad, el Instituto de Investigación Legislativa de Zhejiang y el Instituto de Investigación Legislativa de la Universidad de Zhejiang. El programa oficial asignó la presentación y explicación de la propuesta a Li Wenlong, investigador de la Facultad de Derecho Guanghua.
El proceso de elaboración y presentación fue el siguiente:
- Durante casi seis meses, el equipo realizó visitas a empresas, consultas y cinco rondas de revisión.
- El 24 de septiembre, la propuesta se presentó en la Universidad de Zhejiang; el aviso oficial fechó el evento en 2026.
- Tras la reunión, el equipo tenía previsto incorporar los comentarios y elaborar nuevas versiones.
Tres preguntas que sustentan las normas propuestas
Sun Xiaoxia, directora del Instituto de Investigación sobre Derecho Digital y Gobernanza de la Universidad de Zhejiang, describe el marco a partir de tres elementos relacionados: capacidad de ejecución, madurez cognitiva y naturaleza e impacto de una tarea. En términos más sencillos, las preguntas son qué puede hacer un sistema de IA, cuán fiable es y cuánto importan sus decisiones.
Sun explicó en chino su visión sobre el origen de los riesgos de la IA:
«Consideramos que los riesgos de la inteligencia artificial no se deben a la potencia de las máquinas, sino a un desajuste entre la capacidad, la cognición y las tareas».
Un sistema puede ser capaz de realizar una larga serie de operaciones sin intervención humana y, sin embargo, tener dificultades para reconocer una situación inusual. Asignarle una tarea relacionada con la seguridad personal crearía una peligrosa brecha entre su libertad para actuar y su capacidad para reconocer que algo va mal.
Por ello, la propuesta va más allá de asignar una etiqueta única a una tecnología. Un organismo regulador examinaría la versión concreta de un sistema, el uso previsto y el entorno en el que opera. Una misma tecnología subyacente podría requerir controles diferentes según la tarea a la que se destine.
La capacidad y la fiabilidad se evaluarían por separado
La escala de capacidad propuesta tiene cuatro niveles: asistencia, automatización limitada, automatización avanzada y ejecución autónoma. La evaluación tendría en cuenta cuán independientemente actúa un sistema, a cuántas personas afectan sus decisiones, a qué herramientas puede acceder, cuánto tiempo puede funcionar de forma continua y si puede modificar un entorno digital o físico.
El acceso a herramientas es importante porque un sistema de IA que solo sugiere una acción tiene un alcance distinto al de uno autorizado a ejecutarla. El permiso para operar otros programas o equipos puede convertir una respuesta errónea en una serie de acciones reales.
La madurez cognitiva también tendría cuatro niveles, descritos como básico, general, avanzado y altamente controlado. La evaluación examinaría la precisión, la coherencia, la capacidad para reconocer entradas inusuales y corregir errores, la ciberseguridad, la trazabilidad y las condiciones en las que una persona puede tomar el control.
Otro factor es la calibración de la confianza. En términos sencillos, significa comprobar si la confianza que expresa un sistema se corresponde con la frecuencia con la que acierta. Un sistema que parece seguro de sí mismo cuando se equivoca a menudo puede ser especialmente difícil de supervisar para los usuarios.
El marco también examinaría si es posible explicar los resultados importantes y si un sistema puede mantenerse dentro de límites definidos. Separar la capacidad de la fiabilidad permite a un organismo regulador identificar un sistema con suficiente potencia para actuar de forma independiente, pero no lo bastante fiable para una tarea delicada.
¿Qué tareas recibirían un mayor escrutinio?
La propuesta divide las tareas en tres niveles de impacto: bajo, general y alto. La evaluación tendría en cuenta la importancia de los derechos afectados, la probabilidad y gravedad del daño, el número de personas afectadas, la duración de los efectos, si es posible revertir un resultado y si las personas pueden obtener reparación.
La vulnerabilidad también sería relevante. Una decisión que afecte a alguien con pocas posibilidades de impugnarla puede requerir un examen más riguroso que una decisión similar que afecte a alguien con fácil acceso a ayuda.
Se presumiría que las tareas relacionadas con la vida y la salud, la libertad personal, la dignidad humana, la igualdad de oportunidades, importantes intereses patrimoniales, la educación, el empleo, la seguridad social, la justicia, la aplicación de normas administrativas o la seguridad pública tienen un impacto alto. Se aplicaría la misma presunción a las tareas capaces de afectar de manera significativa a un gran número de personas.
La propuesta también establece que no se deben desarrollar, implementar ni utilizar aplicaciones de IA prohibidas, independientemente de su clasificación de impacto. Las descripciones difundidas junto con la propuesta no incluyen una lista detallada de las aplicaciones prohibidas ni respuestas jurídicas precisas a cada uno de los casos sobre derechos de autor, resultados incorrectos y suplantación mediante rostros planteados al principio.
Un ejemplo médico explica el principio de correspondencia
Sun utilizó el análisis de imágenes médicas y de patología para ilustrar por qué la tarea asignada a un sistema importa tanto como su capacidad técnica. La IA puede procesar grandes volúmenes de imágenes y datos médicos con rapidez, aunque su capacidad de razonamiento puede seguir siendo limitada ante situaciones difíciles o inusuales.
Una tarea adecuada tendría en cuenta ambas características. Asignar al sistema la responsabilidad total de un diagnóstico difícil y confiar demasiado en su criterio crearía el desajuste que el marco busca abordar.
Sun describió el objetivo en chino:
«Exigir que exista correspondencia es distinto de imponer simplemente restricciones; busca la mejor combinación entre capacidad, cognición y tareas».
En opinión de Sun, un sistema que tenga un desempeño deficiente en una tarea exigente podría reasignarse a otra menos compleja, en lugar de descartarse. Por tanto, las opciones prácticas van más allá de permitir un uso sin restricciones o impedirlo por completo. Las autoridades y los operadores podrían ajustar la tarea, los permisos del sistema o el grado de intervención humana.
En un hospital, ese enfoque centraría la atención en el trabajo concreto asignado a la IA y en las salvaguardias que lo rodean. Para un paciente, la cuestión principal sería si el papel del sistema es adecuado a la gravedad de la decisión.
La aprobación tendría que cambiar a medida que evoluciona la IA
El proceso de gobernanza propuesto abarca seis etapas: investigación y desarrollo, pruebas, implementación, operación, iteración y retirada. La clasificación se mantendría a lo largo de todas ellas, porque las capacidades y las circunstancias de un sistema pueden cambiar después de que entre en uso.
Una actualización del modelo podría ampliar la variedad de acciones que un sistema puede realizar. Su incorporación a un nuevo entorno podría exponer a más personas o intereses más delicados a sus decisiones. Los datos nuevos también pueden alterar el comportamiento de un modelo, incluso reducir su fiabilidad de maneras que no eran evidentes durante las pruebas anteriores.
La propuesta pide una nueva evaluación cuando cambian el sistema o la tarea. El dictamen estaría vinculado a una versión, un propósito y un entorno operativo concretos, lo que daría a los operadores motivos para revisar sus obligaciones cuando cambie cualquiera de esos elementos.
Sun señala ocho ámbitos en los que el principio de correspondencia podría orientar las normas jurídicas: clasificación, asignación de deberes, evaluaciones, identificación de usos de alto impacto, intensidad de la regulación, controles de riesgos, responsabilidad jurídica y adaptación a lo largo del tiempo. Vincular esas decisiones mediante un único marco es el principal intento de la propuesta por hacer más coherente la gobernanza de la IA.
La protección de los derechos y las obligaciones empresariales se concretan en los detalles
Las preguntas sobre los ilustradores, las respuestas incorrectas y los videos falsificados muestran por qué la rendición de cuentas importa más allá de las pruebas técnicas. Una persona que busque una indemnización o que se retire contenido dañino necesita una vía viable que conecte el daño sufrido con las partes responsables.
La propuesta incorpora la responsabilidad jurídica a su marco de correspondencia. Esto haría pertinente la idoneidad de un sistema para la tarea asignada al analizar los deberes y la rendición de cuentas. Sin embargo, la relación entre los resultados de las evaluaciones y las normas vigentes sobre responsabilidad civil es uno de los asuntos que, según Sun, requiere un trabajo más detallado.
Los investigadores también deben especificar cómo se evaluaría la madurez cognitiva y qué grado de desajuste entre la capacidad, la fiabilidad y las exigencias de una tarea se consideraría inadecuado. Esas decisiones determinarán hasta qué punto las empresas pueden aplicar el marco de manera coherente y los organismos reguladores pueden verificar sus evaluaciones.
El programa de presentación reunió esas distintas necesidades prácticas en una misma agenda. En la sesión sobre el sector figuraban especialistas jurídicos de Meituan y Douyin, junto con participantes académicos y técnicos. En la sesión sobre derechos y rendición de cuentas figuraban un director de cumplimiento normativo de Alibaba, abogados y académicos universitarios. Su inclusión muestra la variedad de perspectivas que los organizadores buscaron para el debate; el programa no permite atribuir a esos participantes una postura común sobre el borrador.
Para las empresas más pequeñas, lo que está en juego es el número de evaluaciones necesarias, las pruebas que deben aportar y cómo cambian las obligaciones a medida que evoluciona un producto. Para las personas afectadas por la IA, la cuestión es si esas obligaciones ayudan a prevenir daños y ofrecen una vía de reparación útil cuando algo sale mal.
El equipo de investigación prevé revisar la propuesta a partir de los comentarios recibidos en la reunión. La tarea central ahora es traducir el principio de correspondencia en pruebas, umbrales y normas de responsabilidad que puedan aplicarse en controversias reales y en decisiones sobre productos.
Aspectos clave
- La propuesta experta de ley sobre IA de la Universidad de Zhejiang consta de ocho capítulos y 99 artículos, tras reducirse de un borrador inicial de 174 artículos.
- El marco relaciona la capacidad de ejecución de un sistema, su fiabilidad cognitiva y la tarea que se le asigna.
- Se presumiría que las tareas delicadas relacionadas con la salud, la libertad, el empleo, la educación y otros ámbitos tienen un impacto alto.
- Las evaluaciones abarcarían todo el ciclo de desarrollo y uso, y cambiarían cuando se modificaran el sistema o la tarea.
- La propuesta académica será revisada nuevamente; los métodos de evaluación, los umbrales y las normas de responsabilidad requieren un trabajo más detallado.
