Un sistema compartido de detección, con acceso a internet para los niños
La Corte Suprema de India ordenó al Gobierno central crear una Base de Datos Nacional de Listas de Hash y URL para ayudar a las plataformas a identificar y eliminar de distintos servicios material confirmado de explotación y abuso sexual infantil. Cada registro debe ser evaluado de forma independiente por al menos tres analistas humanos capacitados. La base de datos almacenará identificadores digitales y direcciones de internet, no las imágenes o los videos abusivos.
Contenido
- Un sistema compartido de detección, con acceso a internet para los niños
- Por qué las eliminaciones por separado no son suficientes
- Cómo funcionaría la base de datos nacional
- Tres evaluaciones humanas antes de aceptar un registro
- ¿Qué medidas deben notificarse en un plazo de dos horas?
- Las denuncias deben llegar a una persona capacitada
- Los ingresos por publicidad y suscripciones, bajo escrutinio
- Por qué la Corte rechazó prohibir el acceso a internet a todos los niños
- Las escuelas forman parte del plan de protección
- Qué debe hacer el Gobierno antes del 10 de diciembre
- Puntos clave
La resolución de 136 páginas, fechada el 15 de octubre de 2026, también establece plazos para que las empresas de redes sociales informen sobre estos casos, exige sistemas de denuncia accesibles y pide impartir educación sobre seguridad digital en las escuelas. El Gobierno debe presentar una declaración jurada sobre los avances en la implementación antes de la próxima audiencia, prevista para el 10 de diciembre de 2026.
Los jueces J. B. Pardiwala y K. Vinod Chandran dictaron estas directrices en el caso Just Rights for Children Alliance & Anr. v. S. Harish & Ors., tras recibir solicitudes que alegaban incumplimientos de la sentencia de la Corte del 23 de septiembre de 2024.
El tribunal combinó mayores obligaciones para las empresas tecnológicas con una conclusión constitucional: los niños tienen el derecho fundamental de acceder a internet y utilizarlo. No respaldó restricciones generales basadas en la edad y se inclinó por la orientación de los padres, ajustes de cuenta más seguros y medidas contra quienes producen, difunden u obtienen ganancias con material abusivo.
Por qué las eliminaciones por separado no son suficientes
La Corte identificó una debilidad práctica del sistema actual. Cuando una empresa detecta y elimina material abusivo, otra plataforma puede seguir alojando la misma imagen, el mismo video o enlace porque no lo ha identificado de manera independiente.
La Regla 4(4) de las Normas de Tecnología de la Información (Directrices para Intermediarios y Código de Ética de Medios Digitales) de 2021 se refiere a contenido que el propio intermediario ya había eliminado de sus recursos informáticos. El tribunal consideró que este enfoque es demasiado limitado para facilitar la detección coordinada entre distintos servicios.
Las solicitudes también llamaron la atención sobre presuntas promociones pagadas que dirigían a los usuarios a material abusivo mediante enlaces y sitios web externos. De 84 anuncios examinados en India, 55 fueron denunciados a través del sistema de una plataforma. De esos 55, 43 se consideraron conformes con sus normas publicitarias, alrededor del 78 % de los anuncios denunciados.
Para la Corte, el problema abarcaba tanto las cargas repetidas como las vías por las que se dirigía a los usuarios hacia la explotación. Por ello, su marco incluye identificar material conocido, revisar direcciones externas, informar a la policía y examinar las ganancias obtenidas mediante la difusión.
Cómo funcionaría la base de datos nacional
La Base de Datos Nacional de Listas de Hash y URL podría funcionar dentro del portal Sahyog del Centro de Coordinación de Delitos Cibernéticos de India, conocido como I4C, o como un repositorio independiente. Actualmente, Sahyog canaliza denuncias y avisos de eliminación; la base de datos propuesta añadiría un sistema de consulta compartido para detectar material abusivo confirmado.
Un hash es un identificador digital generado a partir de un archivo, similar a una huella digital. Las plataformas pueden comparar identificadores para reconocer material que ya se haya identificado en otro lugar. El hash perceptual va un paso más allá y ayuda a detectar imágenes o videos similares después de cambios como el redimensionamiento o el cambio de formato.
Una URL es una dirección de internet. Incluir estas direcciones ayuda a las plataformas a actuar contra enlaces que dirigen a los usuarios a ubicaciones conocidas donde se aloja material abusivo, incluso cuando el contenido está almacenado fuera de la plataforma que comparte el enlace.
El Gobierno debe elaborar directrices o procedimientos operativos estándar para que los principales intermediarios de redes sociales utilicen la comparación de hashes perceptuales y la inclusión de URL. La Corte se inclinó por unas directrices que puedan actualizarse periódicamente a medida que cambie la tecnología.
Las plataformas compararían sus servicios con los registros de la base de datos, mientras que las fuerzas del orden utilizarían los identificadores compartidos para localizar material coincidente en otros sitios de internet. Así, una identificación confirmada podría permitir actuar en varias plataformas, en lugar de iniciar un nuevo proceso de detección en cada empresa.
Tres evaluaciones humanas antes de aceptar un registro
La Corte exigió varias etapas de verificación antes de incluir material en la base de datos. El software puede realizar una revisión preliminar, pero al menos tres analistas humanos capacitados deben evaluar de forma independiente si el material constituye explotación y abuso sexual infantil, o CSEAM, por sus siglas en inglés.
Los registros deben presentarse a través de canales cifrados. El repositorio solo debe almacenar los hashes y las URL pertinentes, junto con los registros de las evaluaciones, los accesos y las auditorías independientes. Los registros incorrectos deben eliminarse sin demora.
Las personas afectadas por eliminaciones basadas en registros de la base de datos deben tener acceso a un proceso de reclamación. Los avisos de eliminación deben explicar el motivo de la medida para que la persona sepa si debe dirigirse a la plataforma o al organismo que administra la base de datos.
Estas garantías vinculan un potente sistema compartido de detección con una vía para corregir errores. Como un registro puede provocar medidas en varias plataformas, la precisión de la evaluación inicial es importante para todas las eliminaciones posteriores.
¿Qué medidas deben notificarse en un plazo de dos horas?
La Corte estableció procedimientos distintos para el material recién identificado y el que ya figura en la base de datos nacional. En este marco, se considera que el material es de origen desconocido cuando se evalúa mediante el sistema propio de detección o de recepción de denuncias de una plataforma. El material conocido es el que coincide con un registro confirmado de la base de datos.
- Cuando una plataforma detecta y elimina por iniciativa propia material de origen desconocido, debe informar de la eliminación en un plazo de dos horas.
- Cuando la eliminación responde a una denuncia, la plataforma debe informar inmediatamente después de resolverla y, como máximo, en las dos horas siguientes a esa resolución.
- Cuando el contenido coincide con un registro existente de la base de datos, la plataforma debe inhabilitarlo y eliminarlo de inmediato, y presentar cada semana un informe consolidado de esas eliminaciones.
Las plataformas deben verificar el material recién identificado antes de eliminarlo e informar sobre él mediante este proceso. Deben notificar a las autoridades designadas por la legislación india, como la Unidad Especial de Policía Juvenil, la policía local o el portal de delitos cibernéticos, según corresponda en virtud de la Regla 11 de las Normas de Protección de los Niños contra los Delitos Sexuales de 2020. También deben informar al organismo designado para administrar la base de datos cuando se trate de una autoridad distinta.
Los plazos de dos horas se refieren a la notificación posterior a una eliminación o a la resolución de una denuncia. El procedimiento de informes semanales se aplica a las coincidencias con material ya confirmado en la base de datos, además de la obligación de eliminarlo de inmediato.
La sentencia de septiembre de 2024 ya había vinculado las obligaciones de notificación con el artículo 79 de la Ley de Tecnología de la Información de 2000. Ese artículo ofrece protección condicional, a menudo llamada puerto seguro, frente a la responsabilidad por material publicado por los usuarios. La Corte determinó que los intermediarios deben aplicar medidas de diligencia debida y cumplir las obligaciones de notificación establecidas en la ley de protección infantil para acogerse a esa protección.
Las denuncias deben llegar a una persona capacitada
Las plataformas deben ofrecer una categoría específica, claramente identificada, para denunciar CSEAM y accesible en un máximo de dos pasos. Se debe poder denunciar de forma anónima, sin proporcionar obligatoriamente datos personales, y la información del responsable de atender las reclamaciones debe ser fácil de encontrar en sitios web y aplicaciones.
Cada denuncia debe recibir una confirmación de recepción en un plazo de 24 horas y un número de referencia. Un responsable de reclamaciones capacitado debe revisarla, y el denunciante debe recibir la decisión y sus motivos. Las herramientas automatizadas pueden ayudar con la revisión preliminar, pero un responsable capacitado debe seguir a cargo de examinar la denuncia.
La Corte también pidió que los informes tengan un formato uniforme que pueda procesarse mediante sistemas informáticos. La presentación coherente de los informes proporcionaría a las autoridades información utilizable, en lugar de obligarlas a conciliar distintos formatos empresariales.
Se pidió al Gobierno central que amplíe los requisitos de rendición de cuentas a todos los intermediarios mediante modificaciones adecuadas de las Normas de Tecnología de la Información. Para los usuarios, el cambio previsto es concreto: una vía de denuncia accesible, una reclamación que pueda seguirse y una decisión que explique qué medidas se tomaron.
Los ingresos por publicidad y suscripciones, bajo escrutinio
El tribunal ordenó a los intermediarios impedir que CSEAM y otros materiales dañinos prohibidos se ofrezcan, alojen, carguen, promocionen o difundan mediante muros de pago o suscripciones, de forma directa o indirecta. Un muro de pago es una barrera que exige un pago para acceder al contenido.
La Corte señaló que se deben confiscar y entregar los ingresos obtenidos mediante la distribución de material prohibido a través de esos servicios. Pidió al Gobierno que elabore el marco necesario y considere multas ejemplares por incumplir las obligaciones establecidas en la Ley de Tecnología de la Información y sus normas.
Las multas deben tener en cuenta la gravedad, la duración y la reiteración del incumplimiento, así como el tamaño y los ingresos de la empresa. De este modo, la respuesta podría considerar tanto los incumplimientos reiterados como la escala de la empresa responsable.
La resolución también abarca material electrónico que facilita la explotación, incluidos anuncios de herramientas que manipulan imágenes para convertirlas en material abusivo o dirigir a los usuarios hacia este. La Corte consideró que el ámbito de aplicación de la Ley de Tecnología de la Información y sus normas se extiende más allá de las representaciones visuales, e hizo referencia al artículo 67B(d) y a la Regla 3(1)(b).
Antes de la resolución, el Ministerio de Electrónica y Tecnología de la Información informó a la Corte que en julio de 2026 había enviado una notificación al responsable de cumplimiento de Meta por anuncios pagados que promocionaban CSEAM. Esas actuaciones seguían en curso. Según lo informado por el Gobierno, tras unas conversaciones, Google y Meta habían aceptado comunicar los casos directamente a las fuerzas del orden de India.
Por qué la Corte rechazó prohibir el acceso a internet a todos los niños
El tribunal reconoció que acceder a internet y utilizarlo es un derecho fundamental en virtud del artículo 21, que protege la vida y la libertad personal, en relación con el artículo 19(1)(a), que protege la libertad de expresión. Señaló que los niños gozan de estos derechos con independencia de su edad.
En su resolución, los jueces Pardiwala y Chandran explicaron la relación entre la protección y el acceso:
«La seguridad y la libertad de nuestros niños no son incompatibles. Tienen derecho a ambas».
La Corte razonó que los niños podrían seguir usando internet en secreto después de una prohibición y recurrir a servicios menos regulados. Un niño que se enfrente a amenazas o manipulación podría entonces dudar en pedir ayuda por temor a que lo castiguen por conectarse a internet.
El tribunal también planteó inquietudes sobre la privacidad de los sistemas que exigen a todos los usuarios demostrar su edad mediante una recopilación y supervisión extensas de información confidencial. En cambio, sugirió el consentimiento, la orientación y la supervisión de los padres, junto con un modo específico para niños.
Entre los posibles ajustes se incluyen cuentas privadas por defecto, límites al contacto con adultos desconocidos y controles sobre la publicidad y el contenido. Para los niños menores de la edad adolescente, la Corte sugirió métodos proporcionales para verificar el consentimiento de los padres. Dejó los detalles al Gobierno central y permitió restricciones específicas para servicios intrínsecamente dañinos, incluidos los sitios web de contenido para adultos.
Las escuelas forman parte del plan de protección
La Corte ordenó que la educación sobre seguridad digital y sexualidad, adecuada para cada edad, forme parte del plan de estudios básico. Las clases deben abordar el consentimiento, el contacto físico seguro e inseguro, las relaciones sanas, la protección de los datos personales, la explotación en línea y las formas de denunciar los abusos.
El Consejo Nacional de Investigación y Formación Educativa y los consejos estatales de investigación y formación educativa deben elaborar el contenido con psicólogos infantiles, docentes y especialistas en crianza. La Corte también pidió que se exhiban los números de las líneas de ayuda en las escuelas y que los programas de sensibilización comiencen en la educación primaria.
Para los niños, esto significa aprender a reconocer los peligros y contárselo a un adulto de confianza, junto con las medidas técnicas que se espera que adopten las empresas. El componente educativo aborda situaciones en las que un niño se enfrenta a la manipulación o a conductas amenazantes antes de que una plataforma haya identificado una imagen o un enlace.
La terminología de la Corte también refleja este enfoque en el daño. En su sentencia de septiembre de 2024, pidió al Parlamento que considerara sustituir el término «pornografía infantil» en la Ley POCSO por expresiones que describan la explotación y el abuso sexual infantil, para reflejar con mayor precisión la naturaleza de los delitos.
Qué debe hacer el Gobierno antes del 10 de diciembre
Los ministerios de Electrónica y Tecnología de la Información y de Derecho y Justicia deben tomar medidas para implementar el marco mediante directrices, procedimientos operativos estándar y modificaciones adecuadas de las Normas de Tecnología de la Información y, cuando sea necesario, de la propia ley. La declaración jurada del Gobierno debe describir los avances, incluidas las herramientas tecnológicas que utilizan actualmente los intermediarios.
El Ministerio de Electrónica y Tecnología de la Información ya había presentado un proyecto de procedimiento elaborado junto con el Ministerio de Desarrollo de la Mujer y el Niño, el Ministerio del Interior, el Departamento de Telecomunicaciones y otras partes interesadas. El procurador general Tushar Mehta pidió más tiempo para finalizarlo.
El proceso judicial ha avanzado en varias etapas:
- 23 de septiembre de 2024: La Corte Suprema dictó su sentencia anterior sobre CSEAM, incluidas las obligaciones de notificación de los intermediarios.
- Febrero de 2026: El Gobierno modificó las normas para intermediarios con el fin de añadir obligaciones específicas de diligencia debida relacionadas con CSEAM.
- Julio de 2026: El Ministerio de Electrónica y Tecnología de la Información envió una notificación al responsable de cumplimiento de Meta por anuncios pagados que promocionaban ese material.
- 14 de agosto de 2026: La Corte dejó constancia de su preocupación por graves incumplimientos.
- 15 de octubre de 2026: El tribunal estableció el marco sobre la base de datos, las notificaciones, la educación y la rendición de cuentas.
- 10 de diciembre de 2026: Está previsto que la Corte vuelva a examinar el caso; para entonces, el Gobierno deberá presentar su declaración jurada sobre los avances.
La resolución no fija una fecha para poner en marcha la base de datos ni las cuantías definitivas de las multas. En la audiencia de diciembre, el Gobierno deberá explicar las medidas adoptadas para avanzar hacia una detección compartida, una notificación fiable y un acceso a internet más seguro para los niños.
Puntos clave
- Una base de datos nacional almacenará hashes y URL de material confirmado de explotación y abuso sexual infantil, no el material en sí.
- Al menos tres analistas humanos capacitados deben evaluar de manera independiente cada registro propuesto.
- Algunas eliminaciones deben notificarse en un plazo de dos horas; las coincidencias con registros existentes de la base de datos exigen la eliminación inmediata y la presentación de informes semanales.
- Las plataformas deben confirmar la recepción de las denuncias en un plazo de 24 horas y ofrecer una revisión humana a cargo de personal capacitado.
- La Corte prohibió la distribución mediante muros de pago y suscripciones y pidió un marco que aborde las multas y los ingresos procedentes de material prohibido.
- Los niños conservan el derecho fundamental de acceder a internet; se prefieren las garantías específicas a las prohibiciones generales.
- El Gobierno debe informar sobre los avances en la implementación antes de la audiencia del 10 de diciembre de 2026.
