Malasia elimina 13.883 contenidos de videos falsos hiperrealistas y fija a las plataformas un plazo hasta finales de 2026

12 min de lectura
Malaysia Removes 13,883 Deepfake Items as Platforms Face End of 2026 Deadline

Casi 14.000 contenidos eliminados y se prevén medidas más estrictas de las plataformas

Malasia logró eliminar 13.883 contenidos de videos falsos hiperrealistas, incluidos 1.178 relacionados con líderes políticos, tras recibir denuncias del público y solicitudes de retirada de la Comisión de Comunicaciones y Multimedia de Malasia (MCMC), informó el ministro de Comunicaciones, Fahmi Fadzil, ante el Parlamento el 17 de noviembre.

Contenido
  1. Casi 14.000 contenidos eliminados y se prevén medidas más estrictas de las plataformas
  2. Qué deben cambiar las plataformas
  3. Las denuncias aumentaron bruscamente antes del último recuento
  4. Las investigaciones por uso indebido de IA dieron lugar a multas y advertencias
  5. Por qué es fácil imitar las voces de los políticos
  6. Por qué es importante retirar los contenidos con rapidez durante las elecciones
  7. Qué pueden comprobar las personas antes de compartir
  8. Puntos clave

Las retiradas abarcan el periodo comprendido entre el 1 de enero de 2024 y el 31 de octubre de 2026. Se producen mientras el Gobierno da a las plataformas digitales plazo hasta finales de 2026 para establecer mecanismos que aborden automáticamente los videos falsos hiperrealistas y el material falso que se vuelve a subir reiteradamente, en lugar de dejar que los usuarios denuncien una y otra vez el mismo contenido.

Fahmi afirmó que las plataformas que no cumplan el Código de Mitigación de Riesgos podrían enfrentarse a sanciones de entre 1 millón y 10 millones de ringgit malayos por cada infracción. El código, que entró en vigor el 1 de junio, exige a los proveedores autorizados que identifiquen, evalúen y aborden los contenidos perjudiciales, etiqueten claramente ciertos materiales creados o manipulados mediante inteligencia artificial y faciliten el acceso a herramientas para denunciar contenidos.

Las cifras sitúan la suplantación política dentro de un problema más amplio. Los contenidos relacionados con líderes políticos representaron alrededor del 8,5% de las 13.883 retiradas, es decir, aproximadamente uno de cada 12. Los 12.705 restantes no pertenecían a esa categoría, aunque Fahmi no ofreció un desglose detallado de los temas que trataban.

Para quienes usan las redes sociales, la preocupación práctica es sencilla: ahora un rostro o una voz conocidos pueden aparecer en una grabación convincente de algo que esa persona nunca dijo ni hizo. La respuesta del Gobierno combina solicitudes de retirada, normas para las plataformas, investigaciones penales y una campaña pública que insta a verificar la información antes de compartirla.

Qué deben cambiar las plataformas

Fahmi señaló que las denuncias reiteradas sin una respuesta eficaz de las plataformas representan un desafío central para el Gobierno y la MCMC. Retirar una publicación no resuelve el problema cuando la misma grabación falsa vuelve a aparecer en otra publicación o desde otra cuenta.

El plazo de finales de 2026 busca que las plataformas adopten medidas automáticas contra esta circulación reiterada. Fahmi lo anunció al responder una pregunta complementaria de Afnan Hamimi Taib Azamudden, diputado de Perikatan Nasional por Alor Setar, sobre la detección de videos falsos hiperrealistas antes de su publicación y la identificación de sus creadores.

Publicidad

El Código de Mitigación de Riesgos se aplica en virtud de la Ley de Seguridad en Línea de 2025. Exige a los proveedores autorizados contar con mecanismos para identificar el material perjudicial, evaluar los riesgos que genera y actuar al respecto. El requisito de etiquetado abarca imágenes, audio y videos generados o manipulados mediante IA que puedan confundirse con contenido auténtico.

Fahmi explicó la obligación de etiquetar durante la sesión de preguntas:

"El código también exige que las imágenes, el audio o los videos generados o manipulados mediante IA que puedan confundirse con contenido auténtico estén claramente etiquetados o identificados", dijo.

Una etiqueta informa al espectador que una grabación ha sido generada o modificada. La retirada se aplica a los contenidos que justifican ser eliminados. El código también exige herramientas de denuncia accesibles, para que los usuarios puedan alertar a las plataformas cuando reciban material perjudicial.

El código presta especial atención a los periodos electorales: las plataformas deben tener en cuenta los mayores riesgos de esos periodos en sus evaluaciones. Las 16.as elecciones generales de Malasia deben celebrarse antes de febrero de 2028, por lo que los preparativos previos a la campaña ocupan un lugar urgente en el debate.

Las denuncias aumentaron bruscamente antes del último recuento

La viceministra de Comunicaciones, Teo Nie Ching, había informado anteriormente a la Cámara de Representantes que la MCMC recibió 917 denuncias sobre contenidos de videos falsos hiperrealistas en 2024, cifra que aumentó a 3.612 en 2025. Para el 15 de junio de 2026, había recibido otras 7.967.

La cifra de 2025 fue casi cuatro veces superior al total de 2024. El número registrado hasta el 15 de junio de 2026 ya superaba en más del doble el total de todo 2025. Este rápido aumento ayuda a explicar la presión sobre las plataformas para tramitar las denuncias con mayor rapidez y evitar que los contenidos se vuelvan a subir.

Las denuncias contabilizan los informes enviados a la MCMC, mientras que la cifra más reciente de retiradas cuenta los contenidos eliminados por los proveedores. Una denuncia, una publicación y una investigación penal son unidades distintas: una grabación puede circular en muchas publicaciones, mientras que una investigación puede examinar conductas relacionadas con varios contenidos.

Fahmi había dado anteriormente una cifra de 713 publicaciones retiradas relacionadas con líderes políticos entre el 1 de enero de 2025 y el 15 de septiembre de 2026. El total más reciente, de 1.178, abarca un periodo más largo, desde enero de 2024 hasta octubre de 2026.

Las principales fechas de la respuesta son:

  • 1 de enero de 2024: Comienza el periodo que abarca el último total de retiradas.
  • 1 de junio de 2026: Entra en vigor el Código de Mitigación de Riesgos.
  • 15 de junio de 2026: Las denuncias sobre videos falsos hiperrealistas recibidas durante el año llegan a 7.967.
  • 31 de octubre de 2026: El último recuento concluye con 13.883 contenidos eliminados.
  • 17 de noviembre de 2026: Fahmi expone las cifras y las obligaciones de las plataformas ante el Parlamento.
  • Finales de 2026: Se espera que las plataformas tengan listos mecanismos de actuación automática.
  • Febrero de 2028: Fecha límite para celebrar las 16.as elecciones generales.
Publicidad

Las investigaciones por uso indebido de IA dieron lugar a multas y advertencias

La MCMC investigó 61 casos relacionados con el uso indebido de IA en virtud del artículo 233 de la Ley de Comunicaciones y Multimedia de 1998. El resumen de medidas de cumplimiento de Fahmi situó el periodo entre el 1 de enero de 2025 y el 31 de octubre de 2026; también se le citó indicando que el mismo total correspondía al periodo del 1 de enero al 31 de octubre de 2026.

Diez casos llegaron a los tribunales. Seis ya se habían resuelto y dieron lugar a multas por un total de 19.500 ringgit malayos, mientras que cuatro seguían ante los tribunales. No se dieron fechas para esos procesos pendientes.

En otros siete casos se ofrecieron acuerdos de pago por un total de 755.000 ringgit malayos y se emitieron 17 cartas de advertencia. Un acuerdo de pago es una solución económica ofrecida en el marco de un proceso de cumplimiento, distinta de una multa impuesta por un tribunal.

En su explicación más detallada, Fahmi clasificó los 27 casos restantes en dos categorías: investigaciones aún en curso o casos considerados sin necesidad de nuevas medidas. No indicó cuántos correspondían a cada categoría.

El ministro afirmó que se puede recurrir al artículo 233 cuando el contenido reúne los elementos legales de una infracción. La Ley de Seguridad en Línea y su código abordan las responsabilidades de las plataformas, mientras que las investigaciones en virtud de la Ley de Comunicaciones y Multimedia examinan presuntas infracciones. Esto ofrece al Gobierno vías para actuar tanto contra el material perjudicial en línea como contra las conductas que lo originan.

Por qué es fácil imitar las voces de los políticos

Siraj Jalil, presidente de la Asociación de Consumidores de Ciberseguridad de Malasia (MCCA), advirtió que es posible crear videos falsos hiperrealistas convincentes con un teléfono inteligente o una computadora portátil básica y una grabación breve de un candidato hablando.

Explicó que un creador puede necesitar muy poco material y equipo:

"Cualquiera que tenga un teléfono inteligente o una computadora portátil básica, un fragmento de audio de entre 15 y 30 segundos de un discurso público de un candidato y herramientas de IA generativa disponibles en el mercado puede clonar una voz y sincronizar los movimientos de los labios en cuestión de minutos, gratis o por apenas unos pocos ringgit", dijo.

La clonación de voz utiliza programas para imitar la forma de hablar de alguien. Después se puede sincronizar el movimiento de los labios para que un rostro parezca pronunciar las palabras inventadas. El espectador puede reconocer tanto el rostro como la voz, lo que hace que la declaración falsa resulte familiar y creíble.

Según Siraj, los políticos proporcionan abundante material mediante discursos, transmisiones en directo y ruedas de prensa. Esas grabaciones públicas ofrecen a quienes crean falsificaciones ejemplos claros de sus voces, expresiones y movimientos.

Algunos videos políticos se hacen con fines humorísticos. Otros difunden afirmaciones falsas concretas. Durante la campaña para las elecciones estatales de Melaka, Mohamad Hasan, vicepresidente de Barisan Nasional, advirtió a los votantes sobre un video de IA en TikTok que lo mostraba prometiendo falsamente 25.000 ringgit malayos a todo el mundo. Un video así puede crear expectativas sobre dinero o políticas a partir de una promesa que el político nunca hizo.

Publicidad

Por qué es importante retirar los contenidos con rapidez durante las elecciones

Siraj sostuvo que las plataformas todavía dependen demasiado de reaccionar a las denuncias después de que los videos ya se han difundido. Un video puede permanecer en línea durante horas o días mientras los usuarios lo denuncian y los moderadores lo revisan.

Para entonces, algunas personas pueden haber grabado la pantalla y enviado copias a grupos cerrados de WhatsApp o Telegram. Eliminar la publicación original no impide que esas copias sigan circulando en otros espacios.

El presidente de la MCCA describió la urgencia de responder durante una campaña:

"Durante una campaña electoral breve, la rapidez lo es todo", dijo.

Siraj pidió a las plataformas que utilicen sistemas automatizados de detección y marcas de agua visibles cuando se suban contenidos, en lugar de depender de que los usuarios declaren que sus publicaciones fueron generadas por IA. Una marca de agua es una señal visible que ayuda a los espectadores a reconocer material sintético.

También propuso crear equipos especializados en respuesta electoral y fijar un plazo inferior a dos horas para retirar los videos falsos hiperrealistas electorales verificados que denuncien la Comisión Electoral, los candidatos o verificadores de datos acreditados. Asimismo, pidió prohibir la promoción pagada y los sistemas de recomendación que amplifican contenido político cuyo origen no haya sido verificado.

Esas medidas son propuestas de la MCCA. El Gobierno fijó el plazo para establecer mecanismos de actuación automática y describió las obligaciones vigentes del código, mientras que Siraj pide normas más específicas sobre rapidez, detección y distribución antes de las próximas elecciones generales.

Qué pueden comprobar las personas antes de compartir

Siraj aconsejó a los espectadores fijarse en la boca, los dientes y la línea de la mandíbula para detectar un ligero desenfoque, parpadeos poco naturales o dientes que parezcan inusualmente lisos durante un habla rápida. Entre las pistas de audio pueden figurar una voz monótona o con un ritmo demasiado marcado, sobre todo en los acentos locales del malayo, y cambios repentinos en el ruido de fondo.

También conviene prestar atención a la cuenta que publica el material. Siraj afirmó que los videos falsos hiperrealistas suelen aparecer en páginas recién creadas, anónimas o no verificadas, en lugar de en los canales oficiales de los candidatos o en medios de comunicación consolidados.

Una comprobación práctica consiste en buscar el mismo anuncio en los canales oficiales de la persona mencionada y encontrar una grabación más completa del discurso o del evento. Si un video promete dinero, anuncia una política sorprendente o atribuye una declaración incendiaria a alguien, verificar la afirmación antes de reenviarlo puede evitar que se difunda otra copia.

La campaña Internet Seguro de la MCMC busca fomentar estos hábitos. Fahmi afirmó que aborda la detección de videos falsos hiperrealistas, la suplantación de identidad y la información falsa generada con IA, además de la tarea más amplia de mejorar la alfabetización digital.

Publicidad

El ministro de Comunicaciones describió el objetivo de la campaña ante el Parlamento:

"En materia de prevención, el Gobierno, a través de la MCMC, también está llevando a cabo la campaña Internet Seguro para concienciar al público y mejorar la alfabetización digital, en particular en la identificación de contenidos de videos falsos hiperrealistas, la suplantación de identidad y la información falsa generada por IA", dijo durante la sesión de preguntas.

Para los usuarios, las medidas inmediatas son hacer una pausa, verificar y denunciar el material sospechoso mediante las herramientas de las plataformas. Para los proveedores, el plazo que se acerca exige responder tanto a las publicaciones reiteradas como a las denuncias individuales. La próxima prueba concreta será determinar si esos mecanismos automáticos están listos para finales de 2026.

Puntos clave

  • Las plataformas eliminaron 13.883 contenidos de videos falsos hiperrealistas entre enero de 2024 y octubre de 2026 tras recibir solicitudes de la MCMC basadas en denuncias del público.
  • 1.178 contenidos involucraban a líderes políticos, alrededor del 8,5% del total.
  • Los proveedores autorizados deben etiquetar los contenidos pertinentes generados por IA, evaluar el material perjudicial y ofrecer herramientas de denuncia accesibles.
  • Las plataformas tienen hasta finales de 2026 para establecer mecanismos de actuación automática frente a los videos falsos hiperrealistas y el material falso que se vuelve a subir reiteradamente.
  • La MCMC investigó 61 casos de uso indebido de IA; seis resoluciones judiciales dieron lugar a multas por un total de 19.500 ringgit malayos.
  • Cuatro casos seguían pendientes ante los tribunales, mientras que 27 continuaban bajo investigación o habían sido clasificados como casos sin necesidad de nuevas medidas.
  • La MCCA pide retirar con mayor rapidez los contenidos electorales y reforzar la detección antes de las elecciones generales, que deben celebrarse antes de febrero de 2028.
Compartir este artículo

También le puede interesar