La detección más rápida se enfrenta al reto de lograr que se eliminen los contenidos
El Centro Nacional de Respuesta a los Delitos Sexuales Digitales de Corea del Sur identificó 96.210 elementos de material de abuso sexual infantil entre abril y septiembre mediante un sistema de inteligencia artificial que ayuda al personal a encontrar contenido sospechoso y solicitar su eliminación. El Ministerio de Igualdad de Género y Familia señaló que las detecciones diarias alcanzaron 202,1 por trabajador de monitoreo, frente a 20,8 antes de la introducción del sistema, un aumento de unas 9,7 veces.
Contenido
- La detección más rápida se enfrenta al reto de lograr que se eliminen los contenidos
- Cómo funciona el sistema nacional
- Qué significan las cifras del aumento
- La mayoría de las personas que reciben ayuda son jóvenes
- Seúl ofrece otro ejemplo de denuncias más rápidas
- Por qué una solicitud de eliminación puede no poner fin al abuso
- El siguiente objetivo es detectar el acoso en las conversaciones
- Las personas siguen siendo responsables de brindar apoyo
- Cómo ha evolucionado la respuesta
- Puntos clave
El sistema, introducido en abril, busca las 24 horas en redes sociales, comunidades en línea y aplicaciones de chat aleatorio. El personal revisa los resultados antes de enviar solicitudes de eliminación a las plataformas. Las tareas que antes requerían que los empleados buscaran sitios web y elaboraran informes manualmente ahora pueden procesarse mucho más rápido.
Las cifras muestran un fuerte aumento de la capacidad del centro para encontrar y denunciar material. Lograr que los sitios web actúen es un reto aparte: el centro indicó que el 28,5 por ciento de sus solicitudes de eliminación no se atendieron en 2025. Al menos el 95,5 por ciento de los sitios web cuya ubicación de servidor pudo identificar estaban alojados en el extranjero.
Para las víctimas, las consecuencias prácticas van más allá de la primera solicitud de eliminación. Las imágenes pueden copiarse y volver a publicarse, lo que exige búsquedas reiteradas y apoyo continuo. El centro nacional combina el monitoreo y la asistencia para eliminar contenido con ayuda relacionada con acciones legales.
La experiencia de Corea del Sur también reúne dos usos de una misma tecnología. La inteligencia artificial puede crear imágenes sexuales falsas, comúnmente llamadas deepfakes, mientras que los sistemas de detección pueden ayudar al personal a identificar ese material y responder con mayor rapidez. Las decisiones humanas siguen siendo parte del proceso, tanto al revisar posibles casos de abuso como al apoyar a las personas afectadas.
Cómo funciona el sistema nacional
El sistema del centro nacional recopila publicaciones mediante unas 220 palabras clave obtenidas de su trabajo de monitoreo. Examina conjuntamente textos e imágenes y presenta al personal una evaluación, junto con los motivos que la sustentan. Un trabajador toma la decisión final sobre la denuncia.
Una vez que un trabajador aprueba una denuncia, el sistema prepara la información que requiere la plataforma o autoridad pertinente. Procesar una solicitud de eliminación ahora toma alrededor de un minuto o menos. Ese es el tiempo necesario para preparar y tramitar la solicitud; luego, el sitio web debe responder y eliminar el contenido.
Las imágenes aparecen borrosas de forma predeterminada y los empleados las muestran cuando es necesario para tomar una decisión. Esto reduce la exposición reiterada a material perturbador sin eliminar la etapa de revisión. El centro también tiene previsto mejorar la precisión de la detección mediante el entrenamiento del sistema con su base de datos.
Kim Mi-soon, directora del Centro Nacional de Respuesta a los Delitos Sexuales Digitales, explicó cómo la automatización respalda ahora el trabajo:
«Desde detectar si el material se ha difundido hasta presentar una solicitud de eliminación, el sistema gestiona el proceso casi por completo de forma automática, sin que sea necesaria la intervención humana en cada paso».
El centro ha instalado recolectores de datos en 14 plataformas, entre ellas Google, X, Bluesky y Telegram. Estos recolectores reúnen automáticamente material para su evaluación, lo que permite a los empleados dedicar menos tiempo a las búsquedas manuales y más a la revisión y la asistencia a las víctimas.
Qué significan las cifras del aumento
El centro procesó 45.438 casos durante todo 2025. El total de 96.210 entre abril y septiembre del año siguiente fue unas 2,1 veces esa cifra anual y se alcanzó en seis meses. El volumen diario por trabajador de monitoreo pasó de 20,8 a 202,1, un aumento de 181,3 casos.
El centro asistió a 10.637 víctimas en 2025, frente a 4.973 en 2020. Esto representa un aumento de 5.664 personas, o de alrededor del 114 por ciento, en cinco años. El total de víctimas corresponde a las personas que reciben asistencia, mientras que el total de casos procesados describe el trabajo del centro con el material y las solicitudes de eliminación. El caso de una persona puede requerir acciones reiteradas mientras el contenido siga circulando.
El ministerio prevé ampliar el monitoreo a 139 plataformas en 2027. En su anuncio, indicó que la cobertura actual es de 74 plataformas, aunque también se ha mencionado un total actual de 79. Por separado, el centro describe la ampliación de la recolección automatizada de 14 a 139 plataformas. Las cifras publicadas no aclaran la relación exacta entre una cobertura de monitoreo más amplia y los recolectores instalados.
Según la cifra del ministerio de 74, llegar a 139 supondría sumar 65 plataformas, un aumento de alrededor del 88 por ciento. Una cobertura más amplia incorporaría al monitoreo más espacios donde puede aparecer material abusivo, pero también aumentaría el volumen de contenido que el personal debe evaluar.
La mayoría de las personas que reciben ayuda son jóvenes
Los adolescentes y las personas de 20 a 29 años representaron el 77,6 por ciento de quienes recibieron apoyo del centro nacional en 2025. Los adolescentes representaron el 28,5 por ciento y las personas de 20 a 29 años, el 49,1 por ciento. El centro asistió a 3.052 personas menores de 20 años, entre ellas 20 niñas menores de 10.
El centro también identificó un patrón en el que los agresores se acercan a posibles víctimas mediante aplicaciones de chat, se ganan rápidamente su confianza y avanzan hacia la explotación. Es posible que un menor no sepa que circula material abusivo o que tenga demasiado miedo para pedir ayuda. Por eso, el centro busca de forma proactiva material de explotación sexual infantil, incluso cuando ninguna víctima ha presentado una solicitud.
Las cifras policiales ofrecen otra perspectiva sobre la magnitud del abuso sexual en línea. Entre noviembre de 2024 y octubre de 2025, la policía de Corea del Sur detuvo a 3.557 sospechosos en casos de abuso sexual en línea. Los adolescentes representaron casi la mitad de los sospechosos y los delitos relacionados con deepfakes, el 35,2 por ciento de los casos.
Los deepfakes son imágenes, videos o audios alterados o generados con IA para hacer que una persona parezca hacer o decir algo que no hizo ni dijo. En casos de abuso sexual, el material falso puede insertar el rostro de una persona en contenido sexual. Kim señaló que el sistema del centro puede identificar deepfakes difíciles de reconocer a simple vista.
Seúl ofrece otro ejemplo de denuncias más rápidas
El Gobierno Metropolitano de Seúl introdujo su propio sistema de monitoreo con IA en 2023 y anunció funciones de denuncia automatizada en 2025. En su anuncio del 23 de mayo, la ciudad afirmó que la detección y la identificación, que antes tomaban entre dos horas y media y tres horas, podían completarse en seis minutos.
El sistema de la ciudad monitorea de forma continua, genera informes y redacta correos electrónicos para solicitar a los sitios web de alojamiento que eliminen el material. Un funcionario de apoyo para la eliminación revisa cada borrador antes de enviarlo. Los correos pueden prepararse en siete idiomas, entre ellos inglés, chino, japonés y ruso, para llegar a sitios web que operan en el extranjero.
Seúl también describió una medida más acotada del tiempo de procesamiento: introducir palabras clave y generar resultados tomó tres minutos, frente a un promedio de dos horas cuando los funcionarios lo hacían manualmente. La ciudad calculó que la reducción fue del 97,5 por ciento. Las cifras de seis y tres minutos se refieren a tareas distintas dentro del proceso.
Los casos de eliminación gestionados por el sistema de IA de Seúl aumentaron de 2.509 en 2022 a 14.256, un incremento de alrededor del 468 por ciento. El Centro de Apoyo para la Seguridad Digital de Seúl asistió a 3.650 personas en tres años y registró 64.677 casos de apoyo, incluidos asistencia en investigaciones y asuntos legales, asesoramiento psicológico y atención médica.
Los niños y adolescentes representaron 50 casos de apoyo, o el 16,2 por ciento, en 2022. Para 2024, la ciudad registró 624 casos, o el 22,1 por ciento. Esto equivale a unas 12,5 veces más casos y a un aumento de 5,9 puntos porcentuales en su proporción. El servicio municipal de Seúl y el centro nacional funcionan por separado, por lo que sus cifras de actividad corresponden a programas distintos.
Por qué una solicitud de eliminación puede no poner fin al abuso
La tasa del 28,5 por ciento de solicitudes no atendidas por el centro nacional en 2025 significa que más de una de cada cuatro solicitudes no consiguió la eliminación pedida. Kim también señaló que más de una cuarta parte de los sitios web contactados no respondió. Algunos sitios ilegales intentan eludir los bloqueos cambiando las vías de acceso.
El alojamiento en el extranjero añade otra dificultad. El centro coopera con la policía y los organismos de investigación, así como con organizaciones de apoyo en otros países y embajadas. Enviar una solicitud en el idioma adecuado puede ayudar a que una plataforma actúe, mientras que tomar medidas contra un operador que no coopera requiere una colaboración que va más allá del propio centro.
El Ministerio de Igualdad de Género y Familia, la policía y la Comisión de Normas de Comunicaciones de Corea han formado un grupo conjunto de apoyo a las víctimas, centrado en interrumpir la circulación de material abusivo. Entre las medidas descritas se encuentran solicitar la eliminación desde el nivel del servidor o cerrar sitios web ilegales.
Kim ha subrayado la necesidad de prestar asistencia continua porque el contenido puede copiarse y distribuirse de nuevo tras su eliminación. Por tanto, el apoyo a una víctima puede incluir la búsqueda de nuevas publicaciones, la presentación de más solicitudes y el acceso a asistencia legal o psicológica durante un período prolongado.
El siguiente objetivo es detectar el acoso en las conversaciones
El centro nacional está desarrollando una tecnología para detectar el acoso en línea mediante el análisis de cómo evolucionan las conversaciones. El acoso es un proceso en el que un adulto u otro agresor se gana la confianza de un joven para conducirlo hacia la explotación sexual.
Las búsquedas por palabras clave tienen limitaciones en este ámbito porque un mensaje aislado puede contener lenguaje común. Un comentario sobre la apariencia de alguien o una pregunta sobre su edad pueden formar parte de un intercambio más preocupante si luego hay presión para pasar a una comunicación privada o a una actividad sexual. La tecnología prevista evaluaría la secuencia y el contexto, en lugar de depender únicamente de palabras aisladas.
El centro también está desarrollando un chatbot con IA para ofrecer a jóvenes en situación de vulnerabilidad información sobre servicios de apoyo. Ambos proyectos amplían su trabajo más allá de la búsqueda de material que ya está en línea: uno busca reconocer acercamientos que pueden conducir a la explotación y el otro, facilitar el acceso a la ayuda.
No se anunció una fecha de implementación para la herramienta de análisis de conversaciones ni para el chatbot. El objetivo de expansión con fecha prevista es 2027, cuando el centro planea ampliar la cobertura de su IA a 139 plataformas.
Las personas siguen siendo responsables de brindar apoyo
El centro nacional comenzó a funcionar en 2018 y más tarde cambió de nombre tras las modificaciones de la legislación sobre prevención de la violencia sexual y protección de las víctimas. Forma parte del Instituto de Derechos Humanos de la Mujer de Corea y cuenta con cuatro equipos y una plantilla autorizada de 43 personas.
La automatización cambia la forma en que esos empleados distribuyen su tiempo. El software puede encargarse parcialmente de buscar de forma continua, agrupar resultados y preparar formularios de solicitud. Decidir qué medidas tomar, ayudar a alguien a buscar soluciones legales y responder a su sufrimiento siguen requiriendo la intervención del personal.
Park Kwang-soo, director del Instituto de Derechos Humanos de la Mujer de Corea, describió el papel de las personas en el servicio:
«Sea cual sea la IA o la tecnología que utilicemos, el apoyo a las víctimas debe empezar y terminar con las personas», afirmó Park. «Y se necesitan personas en innumerables momentos del proceso».
Las vistas previas borrosas, la documentación automatizada y la recolección más rápida respaldan ese enfoque al reducir el trabajo repetitivo y la exposición a imágenes dañinas. La expansión del centro dependerá tanto de encontrar más material como de mantener la revisión humana y el apoyo necesarios para actuar al respecto.
Cómo ha evolucionado la respuesta
Los programas nacionales y municipales de Corea del Sur se han desarrollado en varias etapas. Su cronología muestra cómo la asistencia a las víctimas se ha ampliado junto con las búsquedas y denuncias automatizadas.
- 2018: Comenzó a funcionar el centro nacional de apoyo a las víctimas de delitos sexuales digitales.
- 2023: El Gobierno Metropolitano de Seúl introdujo su sistema de monitoreo con IA.
- De noviembre de 2024 a octubre de 2025: La policía detuvo a 3.557 sospechosos en casos de abuso sexual en línea.
- 23 de mayo de 2025: Seúl anunció funciones de denuncia automatizada, con revisión de un funcionario antes del envío de los correos de solicitud de eliminación.
- 2025: El centro nacional asistió a 10.637 víctimas y procesó 45.438 casos.
- De abril a septiembre de 2026: El centro nacional procesó 96.210 casos tras la introducción de su sistema de IA en abril.
- 2027: El centro nacional prevé ampliar la cobertura de la IA a 139 plataformas.
La próxima ampliación prevista se refiere a la cobertura de plataformas. Sus beneficios prácticos dependerán de la rapidez con que el material sospechoso llegue a los revisores humanos y de la eficacia con que las plataformas y las autoridades respondan a las solicitudes resultantes.
Puntos clave
- El centro nacional identificó 96.210 elementos de material de abuso sexual infantil entre abril y septiembre.
- Las detecciones diarias por trabajador de monitoreo aumentaron de 20,8 a 202,1, unas 9,7 veces el nivel anterior.
- Los trabajadores revisan el material sospechoso antes de presentar solicitudes de eliminación.
- En 2025, el 28,5 por ciento de las solicitudes de eliminación del centro nacional no se atendió.
- Los adolescentes y las personas de 20 a 29 años representaron el 77,6 por ciento de las víctimas que recibieron apoyo nacional.
- Seúl opera un sistema de IA independiente que redacta correos de solicitud de eliminación en siete idiomas para que los revise un funcionario.
- El centro nacional prevé cubrir 139 plataformas en 2027 y desarrolla herramientas para detectar el acoso y compartir información sobre servicios de apoyo.
