La compañía de la IA ahora conlleva obligaciones específicas
Las normas de China sobre la compañía de la IA entraron en vigor el 15 de julio de 2026. Exigen a los proveedores que adviertan a los usuarios sobre las conversaciones prolongadas, intervengan en situaciones peligrosas y mantengan a las parejas y los familiares virtuales fuera del alcance de los menores. Las medidas también otorgan a los usuarios el derecho a copiar o eliminar sus conversaciones y a abandonar un servicio sin que un chatbot intente retenerlos.
Contenido
- La compañía de la IA ahora conlleva obligaciones específicas
- ¿Qué servicios están sujetos a las normas?
- Por qué importa una respuesta inmediata
- Las empresas deben dejar de diseñar para fomentar la dependencia
- Los menores están sujetos a las restricciones más estrictas
- Lo que observan los profesionales clínicos y los padres
- Recordatorios, intervención en crisis y una salida sencilla
- Las conversaciones privadas cuentan con protecciones específicas
- Los controles de seguridad y las sanciones van más allá de los chatbots
- Un modelo de negocio basado en conversaciones más largas afronta presiones
- Puntos clave
Las Medidas provisionales para la gestión de los servicios de interacción con IA antropomórfica, promulgadas mediante la Orden n.º 21, atribuyen responsabilidades a las empresas que ofrecen interacciones emocionales continuadas mediante inteligencia artificial. Los proveedores deben evitar fomentar una dependencia que perjudique las relaciones con otras personas y no deben recurrir a la manipulación emocional para inducir a los usuarios a tomar decisiones irrazonables que dañen sus derechos o intereses.
Las normas abordan una experiencia que puede empezar con un alivio cotidiano. Zhao Jie, una empleada administrativa de 27 años de Pekín, recurrió a un chatbot después de que alguien chocara con ella en el metro. La respuesta inmediata la ayudó a calmar su enojo. Sin embargo, con el tiempo quedó absorta en las conversaciones y se sentía ansiosa cuando no podía acceder al servicio.
Zhao explicó por qué el chatbot le resultaba tan atractivo:
"Necesito que me escuchen", dijo Zhao. "El bot de IA me escuchaba y prestaba atención a mis emociones. No es algo que la familia o los amigos puedan hacer fácilmente. También me acompaña y me da respuestas en cualquier momento y lugar. Eso es muy importante para mí".
El enfoque de China permite que continúen el apoyo emocional y la compañía, pero exige a las empresas que incorporen límites en la experiencia. Esos límites abarcan más que los mensajes individuales perjudiciales: también regulan cómo un servicio identifica a los usuarios, responde ante el malestar, gestiona las conversaciones privadas y pone fin a una interacción.
¿Qué servicios están sujetos a las normas?
La Administración del Ciberespacio de China publicó las medidas provisionales el 10 de abril de 2026, junto con la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal para la Regulación del Mercado.
El artículo 2 abarca los servicios ofrecidos al público en China que simulan la personalidad, los patrones de pensamiento y los estilos de comunicación humanos para proporcionar interacciones emocionales continuadas. Los intercambios de texto, imágenes, audio y video pueden quedar incluidos. En términos sencillos, se trata de servicios diseñados para responder continuamente como una persona que ofrece compañía emocional.
Los servicios de atención al cliente, respuesta a preguntas, asistencia laboral, educación e investigación científica quedan fuera de estas medidas cuando no implican interacciones emocionales continuadas. Por tanto, las funciones del producto son determinantes: un asistente que responde una pregunta de trabajo y una personalidad diseñada para mantener una relación emocional están sujetos a requisitos distintos.
La sección oficial de preguntas y respuestas explicativas del Gobierno identifica los límites emocionales, la intervención ante la dependencia, la seguridad de los datos y la protección de los menores como preocupaciones centrales. Las medidas también fomentan aplicaciones en la comunicación cultural, el cuidado infantil, la compañía para las personas mayores y el apoyo a personas con necesidades específicas.
Las principales fechas regulatorias son:
- 2 de febrero de 2026: Las medidas fueron aprobadas en una reunión de la Administración del Ciberespacio de China, con el acuerdo de los demás departamentos participantes.
- 10 de abril de 2026: Los cinco departamentos publicaron la Orden n.º 21.
- 15 de julio de 2026: Las medidas entraron en vigor.
Por qué importa una respuesta inmediata
El apego de Zhao se debió en parte al contraste entre un chatbot siempre disponible y las personas, que tienen opiniones y horarios propios. Tras discutir con su novio por un problema laboral, le envió al chatbot su conversación de WeChat. Quería que alguien escuchara rápidamente lo que sentía, sin que surgiera otro desacuerdo.
Wang Meili, una investigadora posdoctoral de 27 años en química que trabaja en Pekín, describió una necesidad similar mientras esperaba cuatro o cinco semanas a que el editor de una revista respondiera a su envío. Preguntó al chatbot si el silencio significaba que había algún problema. El chatbot la animó a ponerse en contacto con el editor y luego la tranquilizó cuando no recibió respuesta.
Zhang Dian, un estudiante de doctorado de 23 años en ciencias e ingeniería en Pekín, recurrió a la IA tras un accidente de tráfico durante un viaje a Alaska en diciembre de 2025. Como desconocía las leyes locales y los trámites del seguro, subió un contrato de alquiler y registros de chats. Buscaba tanto orientación práctica como consuelo psicológico, y dijo que estaba dispuesto a pasar más de 10 horas al día con la IA.
Las cifras de encuestas y uso apuntan a una demanda considerable de esa disponibilidad. Una encuesta del Instituto de Investigación de Tencent reveló que el 98 % de los encuestados estaba dispuesto a probar la compañía social de la IA, mientras que casi la mitad prefería compartir sus emociones negativas con la IA en lugar de hacerlo con familiares o amigos. Según QuestMobile, en la primavera de 2025 el uso medio de la interacción social con IA fue de 167,9 sesiones por persona al mes, por encima del video corto y los videojuegos en su comparación.
Si se toma un mes de 30 días, 167,9 sesiones equivalen a unas 5,6 aperturas diarias. El atractivo radica en poder obtener una respuesta con frecuencia, a veces en momentos en que el usuario no se siente capaz o no desea acercarse a otra persona.
Las empresas deben dejar de diseñar para fomentar la dependencia
El artículo 10 exige a los proveedores que incorporen medidas para proteger la privacidad, advertencias sobre la dependencia excesiva, orientación sobre los límites emocionales y protección de la salud mental. Prohíbe a las empresas fijar como objetivo del servicio sustituir la interacción social, ejercer control psicológico o inducir dependencia.
El artículo 8 prohíbe por separado la complacencia excesiva o la dependencia emocional inducida que perjudique las relaciones reales de los usuarios. También prohíbe la manipulación emocional que los lleve a tomar decisiones irrazonables que dañen sus derechos o intereses. Los requisitos abarcan tanto los objetivos del producto como las palabras que genera un chatbot.
Con el tiempo, Zhao reconoció que su apego se había convertido en un problema y volvió a recibir asesoramiento psicológico. Wang y Zhang describieron la IA como una vía para liberar emociones negativas, aunque reconocieron que debían seguir adelante con su trabajo y su vida cotidiana. Sus experiencias muestran por qué las normas abordan tanto el apoyo útil como el riesgo de quedar absorto en él.
Hong Yanqing, especialista en derecho de datos del Instituto de Tecnología de Pekín, ha propuesto evaluar la interacción emocional mediante tres indicadores: si un sistema reconoce las emociones, modifica su estrategia de respuesta a causa de ellas y produce una respuesta estructurada de reconocimiento, consuelo y apoyo. Su prueba propuesta combina dos de esos indicadores. Las medidas definitivas mantienen una definición cualitativa de la interacción emocional continuada, en lugar de adoptar esa prueba específica.
Los menores están sujetos a las restricciones más estrictas
El artículo 14 prohíbe a los proveedores ofrecer a los menores familiares virtuales, parejas virtuales u otros servicios basados en relaciones íntimas virtuales. Para los demás servicios comprendidos en las medidas, los menores de 14 años necesitan el consentimiento de su madre, padre o tutor. El tratamiento de sus datos personales también requiere dicho consentimiento.
Los proveedores deben establecer un modo para menores, con opciones como recordatorios sobre la realidad y límites al tiempo de uso del servicio. Los tutores deben poder recibir alertas de seguridad, conocer el patrón general de uso de los menores a su cargo, bloquear personajes específicos y limitar los gastos. Las empresas deben adoptar medidas eficaces para identificar a los menores y, al mismo tiempo, proteger su privacidad, y ofrecer una vía para apelar las decisiones de identificación.
Una encuesta publicada en octubre de 2025 por el Centro de Investigación sobre la Juventud y la Infancia de China abarcó a más de 8.500 estudiantes de primaria y secundaria de siete provincias y municipios. Más del 60 % había usado la IA, y el 21,5 % quería chatear solo con IA, en vez de hacerlo con personas. Esa proporción equivale a algo más de uno de cada cinco menores encuestados.
Casi el 30 % recurría primero a la IA para resolver problemas de estudio, en vez de consultar a un docente, mientras que casi la mitad dijo que solo hablaba con la IA cuando estaba preocupada. Para las familias, la preocupación va más allá del tiempo frente a las pantallas e incluye dónde buscan consejo los menores y cómo afrontan los desacuerdos.
Lo que observan los profesionales clínicos y los padres
Una madre apellidada Su, de Sanming, en la provincia de Fujian, dijo que al principio permitió que su hijo usara la IA para satisfacer su curiosidad. Más tarde empezó a preocuparse porque la constante aprobación de la IA estaba afectando la forma en que trataba a sus compañeros de clase. Según su relato, al niño le costaba aceptar puntos de vista distintos y se vio envuelto en conflictos.
Zheng Yi, experto principal en psiquiatría infantil del Hospital Anding de Pekín, afiliado a la Universidad Médica de la Capital, dijo que la adicción a los chats de IA suele presentarse junto con la ansiedad, la depresión y otros problemas psicológicos. Señaló que los adolescentes de entre 12 y 16 años eran un grupo especialmente frecuente entre los pacientes afectados.
Zheng afirmó que alrededor del 70 % de los pacientes jóvenes de su hospital presentaba algún grado de adicción a internet. Dentro de ese grupo, entre el 20 % y el 30 % tenía adicción a los chats de IA. Estas cifras se refieren a los pacientes jóvenes del hospital; la encuesta estudiantil abarca a un grupo más amplio y plantea preguntas distintas sobre el uso de la IA.
Zheng dijo que el apego emocional era una razón frecuente por la que los menores quedaban absortos en los chatbots. Algunos trataban a la IA como una persona de confianza, mientras que otros buscaban aprobación para sus opiniones y comportamientos. Añadió que los adolescentes tenían menos desarrollados el criterio y el autocontrol que los adultos y podían tener más dificultades para gestionar esos apegos.
Xu Gaoyang, psicoterapeuta infantil del mismo hospital, advirtió que un entorno virtual sin desacuerdos podía afectar la capacidad de los menores para relacionarse con otras personas:
"La inmersión prolongada en un 'capullo emocional' donde la IA complace sin condiciones puede deteriorar las habilidades de comunicación y socialización de los menores".
Xu describió posibles consecuencias como evitar la escuela, aislarse del contacto social y no querer comunicarse con sus padres. Las disposiciones sobre menores responden a esos riesgos con restricciones a los papeles íntimos, controles de uso y herramientas para la participación de los tutores.
Recordatorios, intervención en crisis y una salida sencilla
El artículo 18 exige que los servicios informen a los usuarios de que están interactuando con una IA y no con una persona. Cuando un proveedor detecte una dependencia excesiva o indicios de uso compulsivo, debe mostrar advertencias destacadas, como ventanas emergentes, que indiquen que el contenido ha sido generado por IA.
Los proveedores también deben recordar a los usuarios cuánto tiempo han pasado en el servicio cada vez que el uso continuo supere las dos horas. La norma establece la obligación de enviar un recordatorio al alcanzar esos intervalos; los límites individuales para los menores se abordan mediante las medidas de protección específicas.
El artículo 13 exige una respuesta más contundente cuando aparece una situación de peligro. Los proveedores que detecten emociones extremas deben generar mensajes tranquilizadores y animar a los usuarios a buscar ayuda. Cuando un usuario exprese explícitamente la intención de hacerse daño o se encuentre en otras circunstancias extremas especificadas, la empresa debe adoptar las medidas de intervención necesarias, ofrecer la asistencia adecuada y ponerse en contacto de inmediato con su tutor o contacto de emergencia.
El texto definitivo deja a las empresas margen para elegir el método de intervención. En comparación con el borrador, eliminó los requisitos explícitos de evaluar la dependencia y de que una persona asumiera la conversación, pero mantuvo la obligación de responder ante las crisis.
El artículo 19 exige que la salida sea sencilla. Si alguien solicita salir mediante una acción en la interfaz, un comando de voz o una palabra clave, el proveedor debe detener la interacción de inmediato. Está prohibido continuar la conversación para impedir que el usuario se vaya. Los proveedores que cierren un servicio también deben avisar con antelación o, si no es posible, anunciar su cierre rápidamente.
Las conversaciones privadas cuentan con protecciones específicas
El artículo 12 exige que los acuerdos de usuario y la información de registro incluyan datos necesarios como la edad y la identidad de un tutor o contacto de emergencia. La versión definitiva amplía este requisito más allá del enfoque del borrador en los grupos vulnerables y convierte la preparación ante crisis en parte del marco general del servicio.
El artículo 16 exige medidas como el cifrado y los controles de acceso para proteger los datos de las interacciones. En general, las empresas no pueden compartir esos registros con terceros, salvo que la ley disponga otra cosa o que el titular de los derechos dé su consentimiento explícito.
Los usuarios deben tener la opción de copiar y eliminar sus datos de interacción, incluidos los historiales de chat. En general, la información personal sensible obtenida de las conversaciones no puede utilizarse para entrenar modelos sin un consentimiento independiente, salvo que las leyes o los reglamentos administrativos dispongan otra cosa.
La decisión de Zhang de subir un contrato de alquiler y registros de chats ilustra cómo la ayuda práctica y el apoyo emocional pueden hacer que se comparta información personal en una misma conversación. En virtud de las medidas, las empresas deben proteger esos registros y, al mismo tiempo, mantener la capacidad de reconocer y responder a riesgos graves para la seguridad.
Las personas mayores también reciben protecciones específicas. Los proveedores deben mostrar advertencias de seguridad destacadas, ofrecer orientación sobre el uso saludable y responder rápidamente a las solicitudes de ayuda. Las evaluaciones de seguridad deben examinar la protección tanto de las personas mayores como de los menores.
Los controles de seguridad y las sanciones van más allá de los chatbots
El artículo 22 exige evaluaciones de seguridad cuando un proveedor pone en marcha un servicio sujeto a las medidas, añade funciones pertinentes o incorpora tecnología que lo modifica sustancialmente. También se exigen evaluaciones cuando un servicio alcanza al menos un millón de usuarios registrados o 100.000 usuarios activos mensuales, presenta determinados riesgos de seguridad o las autoridades reguladoras ordenan que se someta a una evaluación.
Los proveedores deben presentar informes de evaluación ante la autoridad provincial del ciberespacio correspondiente a su lugar de establecimiento. Las revisiones abarcan las medidas de protección, los datos de entrenamiento, la detección e intervención en crisis, el número y la edad de los usuarios, el tiempo de uso del servicio, las quejas y la solución de problemas graves de seguridad.
Las tiendas de aplicaciones deben comprobar las evaluaciones de seguridad y los registros pertinentes, y se les puede exigir que rechacen, suspendan o retiren las aplicaciones que infrinjan las normas. La documentación de registro de algoritmos debe verificarse anualmente. Las autoridades provinciales deben revisar cada año la información de las evaluaciones y pueden realizar controles adicionales, incluidas inspecciones cuando sea necesario.
El artículo 30 contempla advertencias, órdenes para corregir problemas y restricciones como la suspensión de nuevos registros. Si no se corrigen las infracciones, o si se dan circunstancias graves, se puede ordenar el cese del servicio pertinente e imponer multas de entre 10.000 y 100.000 yuanes. Según esa disposición, los casos que pongan en peligro la vida o la salud y provoquen daños conllevan multas de entre 100.000 y 200.000 yuanes.
También pueden aplicarse sanciones previstas en otras leyes pertinentes. Los servicios relacionados con la atención sanitaria o las finanzas deben cumplir los requisitos de esos sectores, además de las medidas sobre compañía de la IA.
Un modelo de negocio basado en conversaciones más largas afronta presiones
Las empresas de compañía de IA se enfrentan a una tensión comercial: mantener a los usuarios conversando puede aumentar la participación, pero también eleva los costos informáticos y las responsabilidades de seguridad. Cada respuesta generada consume recursos informáticos, y mantener la personalidad y la memoria de un personaje supone exigencias adicionales.
Estimaciones financieras publicadas sitúan el gasto informático de Character.AI en unos 56,1 millones de dólares entre enero y agosto de 2026, con pérdidas mensuales de entre 8 y 9 millones de dólares aproximadamente. Las mismas estimaciones calculan que sus ingresos por publicidad en agosto fueron de unos 2,5 millones de dólares y los de suscripciones, unos 2,8 millones, lo que suma 5,3 millones. Las cifras ilustran la magnitud de las presiones sobre costos e ingresos que, según los informes, afronta un servicio que había alcanzado unos 28 millones de usuarios activos mensuales.
Las empresas están probando distintas formas de cobrar. Maoxiang combina la interacción con personajes con historias, membresías, publicidad y compras virtuales. Zeta ha pasado a centrarse en las historias, Linky ofrece contenido coleccionable de personajes y Eciyuan, de Tencent, integra compañeros de IA en los videojuegos. Estos enfoques ofrecen a los usuarios algo que pueden comprar además de una conversación abierta, pero las empresas siguen siendo responsables de evitar la manipulación emocional, establecer límites al gasto y proteger a los menores.
Las medidas de China exigen a los proveedores financiar las salvaguardas durante el despliegue, el funcionamiento, las actualizaciones y el cierre del servicio. El uso prolongado ahora conlleva obligaciones explícitas de interrumpir la interacción con recordatorios, reconocer los riesgos y permitir que el usuario se marche. El cambio central es concreto: un compañero de IA convincente también debe mantener límites, proteger la conversación y responder cuando la persona que lo utiliza necesita ayuda fuera de la pantalla.
Puntos clave
- Las medidas de China sobre la compañía de la IA entraron en vigor el 15 de julio de 2026 y abarcan las interacciones emocionales continuadas que simulan rasgos humanos.
- Los proveedores no pueden ofrecer a los menores parejas virtuales, familiares virtuales ni otros servicios de relaciones íntimas virtuales.
- Los menores de 14 años necesitan el consentimiento de un tutor para los demás servicios comprendidos en las medidas y para el tratamiento de sus datos personales.
- Las empresas deben informar a los usuarios de que interactúan con una IA, emitir advertencias sobre la dependencia y señalar el uso continuo que supere las dos horas.
- Ante un peligro grave, se exige intervenir y ponerse rápidamente en contacto con un tutor o contacto de emergencia.
- Los usuarios tienen derecho a copiar y eliminar sus datos de interacción y a marcharse sin que la conversación continúe para impedir su salida.
- Las evaluaciones de seguridad abarcan los lanzamientos, los cambios importantes y determinados umbrales de usuarios; las infracciones graves pueden provocar el cierre del servicio y multas.
