El abuso de menores con deepfakes creados con IA en Japón desata investigaciones policiales y un debate jurídico

Una crisis creciente en las escuelas japonesas

La policía de todo Japón recibe cada vez más denuncias de compañeros que utilizan inteligencia artificial para crear deepfakes sexuales de menores, a menudo a partir de fotos de eventos escolares, álbumes de graduación y chats grupales privados. Las víctimas suelen ser estudiantes de secundaria básica y secundaria superior, aunque también ha habido casos de niños de primaria. En varios casos, los responsables son menores que accedieron a sitios de generación de imágenes o a aplicaciones sencillas para teléfonos inteligentes, con las que produjeron falsificaciones explícitas y convincentes y las compartieron entre sus compañeros.

Las autoridades afirman que el año pasado se registraron más de 100 consultas y denuncias sobre imágenes sexuales falsas de menores. Diecisiete de los casos conocidos involucraban imágenes derivadas de eventos escolares o fotos de anuarios. Las víctimas suelen sospechar de alguien conocido. La policía también ha documentado casos de acoso contra compañeros del mismo sexo, cuyo objetivo era intimidar o humillar, no obtener excitación sexual. En un caso ocurrido en la región de Tokai, en el centro de Japón, un estudiante de secundaria básica fue remitido a la fiscalía bajo sospecha de difamación después de crear una imagen falsa de una compañera desnuda y compartirla con sus amigos.

El aumento de estos casos se enmarca en una tendencia mundial más amplia. En 2023, una empresa estadounidense de seguridad identificó al menos 95.820 videos deepfake en internet e informó que el 98 % contenía pornografía. Las herramientas fáciles de usar permiten escribir una instrucción, subir un rostro o intentar quitar la ropa de una foto con un solo toque. Esta accesibilidad coincide con las dinámicas sociales escolares y con el enorme volumen de fotos personales que los niños publican o comparten, a menudo sin darse cuenta de cómo pueden utilizarse esas imágenes para hacerles daño.

Cómo crean los adolescentes deepfakes con fotos cotidianas

Las herramientas actuales pertenecen a varias categorías. Algunas aplicaciones intentan «desnudar» una foto al inventar un cuerpo debajo de la ropa. Otras sustituyen el rostro de una foto escolar por el de un actor o una actriz de contenido para adultos. Los sitios de IA generativa también pueden producir imágenes explícitas a partir de instrucciones de texto y luego ajustarse para que se parezcan a una persona específica mediante unas pocas fotos de referencia. Estos sistemas se diseñaron para sintetizar imágenes nuevas a partir de patrones aprendidos de enormes conjuntos de datos y pueden funcionar en dispositivos de consumo, lo que reduce las barreras para hacer un uso indebido y dificulta su detección por parte de escuelas, familias y autoridades policiales.

Por qué es difícil procesar estos casos

La principal ley japonesa sobre imágenes sexuales de menores, la Ley de Regulación y Sanción de Actos Relacionados con la Prostitución Infantil y la Pornografía Infantil, se redactó para proteger a niños reales que aparecen en imágenes reales. Esto crea una zona gris para las falsificaciones generadas con IA. Cuando la imagen es sintética, aunque use el rostro o la apariencia de un menor real, la vía jurídica es menos clara. La policía se ha adaptado recurriendo a otras leyes, incluidas las de difamación y algunas ordenanzas locales, para perseguir los casos cuando es posible. El enfoque es fragmentario y obliga a las víctimas y a sus familias a detectar el abuso y presentar denuncias con rapidez.

Qué está haciendo la policía

La Agencia Nacional de Policía ha comenzado a examinar unos 10 sitios web y aplicaciones de generación de imágenes especialmente populares entre estudiantes de secundaria básica y secundaria superior. Los investigadores prevén usar sus conclusiones para respaldar investigaciones penales y elaborar programas educativos para jóvenes, incluidas clases de prevención de la delincuencia que expliquen por qué crear o compartir estas imágenes puede constituir un delito y causar un daño grave a los compañeros.

Altos funcionarios advierten que el alcance del abuso es mucho mayor de lo que sugieren las denuncias. Tras revisar quejas recientes, un alto funcionario policial afirmó que los incidentes conocidos probablemente representan una pequeña parte de la actividad real, ya que muchas víctimas no denuncian lo ocurrido.

La zona gris jurídica en Japón

Especialistas en derecho de Japón afirman que el marco jurídico del país no ha avanzado al ritmo de la IA generativa. Según las normas actuales, si la fiscalía no puede demostrar que aparece un menor real o que se puede identificar claramente a un menor real, es posible que un deepfake quede fuera del régimen nacional sobre material de abuso sexual infantil. Esta brecha contrasta con el daño muy real que sufren las víctimas cuando sus rostros o nombres se asocian a falsificaciones explícitas que circulan en chats grupales o en las redes sociales.

Takashi Nagase, abogado y profesor de la Universidad de Kanazawa que ha asesorado sobre políticas de internet, sostiene que la distinción entre imágenes reales y sintéticas ya no refleja cómo se utiliza esta tecnología.

La ley actual se diseñó para proteger a niños reales, pero la IA generativa ha desdibujado la línea entre lo real y lo falso.

Algunos gobiernos locales han empezado a actuar. La prefectura de Tottori revisó su ordenanza en 2024 para prohibir explícitamente la creación de imágenes falsas de contenido sexual mediante fotografías de menores. Quienes defienden los derechos de la infancia valoran las medidas locales, pero afirman que hace falta una ley nacional para que la aplicación de las normas no varíe según la jurisdicción ni se vea obstaculizada cuando las imágenes se almacenan en servidores extranjeros o se comparten de forma anónima. Un grupo de trabajo del Gobierno central ha debatido el uso de internet por parte de los jóvenes y posibles medidas contra el abuso mediante IA, aunque los avances han sido lentos.

Masaki Ueda, profesor asociado de derecho penal en la Universidad de Kanagawa que estudia la regulación de la obscenidad, afirma que el marco jurídico debería reflejar el daño real a la privacidad y a la salud psicológica de los niños cuya imagen se utiliza indebidamente.

Si se difunden en internet imágenes falsas sofisticadas, se viola la privacidad de los niños cuyas fotos se utilizan indebidamente, aunque sean falsas. La carga psicológica es significativa, por lo que las imágenes deepfake deberían recibir un trato similar al de la pornografía infantil y deberían considerarse regulaciones legales.

La tecnología que facilita el abuso

Los deepfakes se generan mediante modelos de aprendizaje automático entrenados para sintetizar imágenes realistas. Predominan dos familias de herramientas. Los métodos de sustitución facial ajustan e integran el rostro de una persona en un video o una foto existente. Los sistemas de texto a imagen, a menudo llamados modelos de difusión, generan una imagen completa desde cero a partir de una instrucción escrita y, si se proporcionan, unas pocas caras de referencia. A veces, los responsables ajustan un modelo local con un puñado de fotos obtenidas del perfil de redes sociales de una persona o tomadas de un álbum escolar, lo que hace que el resultado se parezca de forma sorprendente al menor.

Estos avances complican la detección y la respuesta. Si una imagen es totalmente sintética, no hay una fotografía original con la que compararla. Existen marcas de agua y filtros de detección de IA, pero son poco fiables y se pueden eliminar. La Fundación Internet Watch informó que, en un mes de 2023, se publicaron más de 20.000 imágenes generadas con IA en un solo foro de la web oscura; miles infringían la legislación del Reino Unido. Informes posteriores advirtieron que este contenido se está extendiendo cada vez más a la web abierta, donde usuarios desprevenidos y víctimas pueden encontrarlo en foros públicos y galerías de imágenes. Según la IWF, parte del contenido más convincente es visualmente indistinguible del abuso real, lo que aumenta el riesgo de revictimización y desborda a moderadores y policías. La IWF ha publicado investigaciones sobre el uso indebido de la IA para crear imágenes de abuso sexual infantil y ha pedido contramedidas jurídicas y técnicas urgentes. Sus informes están disponibles en la investigación de la IWF.

El costo humano para las víctimas y las escuelas

Para un niño, ver su rostro pegado a una imagen sexual puede provocar miedo, vergüenza y una sensación de pérdida de control. Aunque sus compañeros sepan que la imagen es falsa, el daño a su reputación y su salud mental puede ser profundo. Las comunidades escolares afrontan daños adicionales cuando se extienden los rumores, aumenta el acoso y los docentes intentan responder a las familias, proteger a los estudiantes y colaborar con la policía.

En particular, las niñas cuentan que han cambiado su forma de participar en internet. En Inglaterra, la comisionada para la infancia informó que algunas adolescentes han dejado de publicar fotos porque temen que las herramientas para «desnudar» imágenes puedan utilizarse para hacerles daño. Dame Rachel de Souza, comisionada para la infancia de Inglaterra, ha instado a los legisladores a prohibir las aplicaciones que crean deepfakes explícitos de menores, y ha señalado la creciente angustia entre las adolescentes.

Las herramientas que utilizan tecnología deepfake para crear imágenes de niños desnudos no deberían ser legales, y pido al Gobierno que tome medidas decisivas para prohibirlas. No tienen cabida en nuestra sociedad.

En Japón, los abogados afirman que ven cada vez más casos en los que se investiga a adolescentes varones por delitos sexuales relacionados con deepfakes o con contenido explícito compartido en chats grupales. Especialistas advierten que muchos adolescentes no comprenden las consecuencias jurídicas ni el daño a sus compañeros hasta que la policía los visita o un proceso disciplinario escolar les hace afrontar la realidad. Esta brecha subraya la necesidad de normas claras, educación en las escuelas y sólidas medidas de protección en las plataformas.

Medidas internacionales y lecciones para Japón

Otros países han tomado medidas para cerrar vacíos legales. Corea del Sur aprobó en septiembre de 2024 un proyecto de ley que penaliza no solo la creación de imágenes sexuales deepfake de menores, sino también su visualización o posesión. En Estados Unidos, una ley federal aprobada en mayo de 2025 prohíbe publicar imágenes o videos sexualmente explícitos sin el consentimiento de la persona y obliga a las plataformas a retirar ese contenido en un plazo de 48 horas desde la solicitud de la víctima. Muchos estados de Estados Unidos también han actualizado sus leyes para que las representaciones de menores en conductas sexuales modificadas o generadas con IA se consideren material ilegal de abuso sexual infantil, incluso cuando no haya participado ningún menor real en el acto representado. Estas medidas estatales responden a fallos judiciales anteriores en Estados Unidos que trataron de forma distinta el contenido completamente virtual y las imágenes creadas a partir de menores reales.

En Europa, las fuerzas policiales colaboran a través de las fronteras. Europol coordinó la Operación Cumberland, una de las primeras acciones mundiales contra el material de abuso sexual infantil generado con IA. Con el apoyo de 19 países, la policía identificó a cientos de sospechosos, realizó decenas de detenciones y registró viviendas para desarticular una plataforma que distribuía imágenes de menores totalmente artificiales. Los investigadores afirmaron que la IA permite ahora a personas con conocimientos limitados producir enormes cantidades de contenido de abuso y advirtieron que los métodos tradicionales para identificar a las víctimas o rastrear el material de origen suelen fallar cuando las imágenes son sintéticas. Catherine De Bolle, directora ejecutiva de Europol, destacó la necesidad de nuevos métodos de investigación adaptados al contenido producido con IA.

Las imágenes generadas con IA pueden ser creadas fácilmente por personas con intención delictiva, lo que aumenta el volumen de material de abuso y dificulta la identificación de los responsables o las víctimas.

En Japón, la policía realizó recientemente las primeras detenciones relacionadas con la venta, mediante subastas en línea, de carteles obscenos generados con IA que mostraban a mujeres adultas ficticias. Esto indica que las leyes vigentes sobre obscenidad pueden abarcar algunos abusos con IA. Según los informes, uno de los sospechosos ganó unos 10 millones de yenes en un año. Los casos relacionados con menores presentan obstáculos adicionales, por lo que especialistas y grupos de protección infantil piden normas nacionales explícitas que abarquen las representaciones sexuales de menores generadas con IA, tanto si se basan en fotos reales como si son totalmente sintéticas.

Qué pueden hacer ahora las familias, las escuelas y las plataformas

Mientras los responsables políticos debaten posibles reformas, hay medidas prácticas para reducir los riesgos y responder con más rapidez cuando se produce un abuso. Estas medidas se centran en el consentimiento, el acceso a las fotos, los canales de denuncia y el apoyo a la salud mental.

• Limitar la circulación de fotos de estudiantes. Las escuelas pueden restringir el acceso a álbumes de clase y galerías de eventos a tutores verificados, usar enlaces que caduquen y añadir marcas de agua a las imágenes que salgan de los canales oficiales.
• Enseñar pronto sobre consentimiento y ética digital. Incorporar la IA y la alfabetización mediática a las clases de tutoría o tecnología, con debates directos sobre los deepfakes, la privacidad y el daño que causan estas imágenes.
• Establecer reglas claras para los chats grupales. Los clubes de estudiantes y las clases deberían acordar normas de conducta para las aplicaciones de mensajería y definir las consecuencias de compartir contenido explícito o de acoso.
• Facilitar que los estudiantes denuncien rápidamente. Simplificar el aviso a una persona adulta de confianza, a la escuela y a la plataforma cuando aparezca una imagen abusiva. Denunciar con rapidez reduce el tiempo durante el que puede difundirse.
• Colaborar con la policía. Aunque la vía legal no esté clara, compartir las pruebas con la policía para que pueda asesorar sobre posibles casos de difamación, vulneración de la privacidad o infracción de ordenanzas locales.
• Contactar con las plataformas. Usar las herramientas disponibles para denunciar imágenes sexuales no consentidas y solicitar que se retiren. Conservar enlaces, marcas de tiempo y nombres de usuario.
• Apoyar la salud mental de la víctima. Ofrecer asesoramiento confidencial e informar cuanto antes a sus tutores. No exigir que la víctima confronte a sus compañeros para demostrar que la imagen es falsa.
• Reducir el rastro de datos personales. Recomendar a los estudiantes que mantengan privadas sus cuentas, eliminen publicaciones antiguas y eviten publicar fotos de rostros en alta resolución vinculadas a información sobre la escuela o la ubicación.
• Adoptar prácticas más seguras para compartir fotos. Al compartir fotos de equipos o clases, considerar tomas más amplias, menos primeros planos de rostros y permisos que restrinjan su redistribución.

Para las empresas tecnológicas, las medidas de protección incluyen filtros sólidos para las instrucciones y las cargas de contenido, bloqueos predeterminados de las funciones para «desnudar» imágenes, verificación estricta de la edad y procesos rápidos de retirada que funcionen en todos sus productos. La transparencia sobre los fallos conocidos y las correcciones documentadas ayuda a recuperar la confianza. Una reciente polémica por un chatbot popular que generó imágenes sexualizadas de una celebridad de 16 años muestra con qué rapidez una falla de diseño puede desencadenar advertencias de los organismos reguladores y una reacción pública negativa.

Puntos clave

• La policía japonesa recibe cada vez más denuncias de menores que crean y comparten deepfakes sexuales con IA de sus compañeros a partir de fotos escolares e imágenes de chats grupales.
• El año pasado se presentaron más de 100 consultas y denuncias en todo el país, con al menos 17 casos relacionados con eventos escolares y álbumes de graduación.
• Es difícil procesar los deepfakes conforme a la legislación nacional vigente, que se centra en imágenes de menores reales. La policía suele recurrir a otras leyes, como las de difamación.
• La Agencia Nacional de Policía investiga unos 10 sitios y aplicaciones populares de generación de imágenes y prevé usar sus conclusiones tanto en investigaciones penales como en programas educativos para jóvenes.
• Especialistas afirman que el sistema jurídico no ha avanzado al ritmo de la tecnología. Académicos piden normas nacionales explícitas que traten las imágenes sexuales deepfake de menores de forma similar al material ilegal de abuso sexual infantil.
• A escala internacional, Corea del Sur, Estados Unidos, el Reino Unido y Australia han tomado medidas para regular las imágenes sexuales generadas con IA, incluidas obligaciones de retirada rápida y la creación de nuevos delitos.
• La Operación Cumberland de Europol actuó contra una red que distribuía contenido de abuso infantil generado totalmente con IA y puso de relieve las dificultades de investigación cuando no aparece un menor real.
• Las escuelas, las familias y las plataformas pueden reducir los daños limitando el acceso a las fotos, enseñando alfabetización sobre IA, haciendo cumplir las normas de los chats, simplificando las denuncias y ofreciendo asesoramiento a las víctimas.