Malasia solicita a Anthropic pruebas sobre una presunta campaña de inteligencia artificial dirigida a votantes

12 min de lectura
Malaysia Seeks Anthropic Evidence on Alleged AI Campaign Targeting Voters

Las cuentas falsas y los perfiles de votantes centran el escrutinio parlamentario

El regulador de comunicaciones de Malasia solicita a Anthropic detalles técnicos y pruebas después de que la empresa afirmara que sus modelos de inteligencia artificial Claude ayudaron a crear una plataforma comercial de manipulación política dirigida a los votantes malasios. La presunta operación combinó alrededor de 1.000 cuentas falsas en X, un medio de noticias ficticio y perfiles de votantes que abarcaban los 222 distritos electorales parlamentarios.

Contenido
  1. Las cuentas falsas y los perfiles de votantes centran el escrutinio parlamentario
  2. Qué pide Malasia a Anthropic
  3. Un servicio comercial creado en torno a datos de votantes malasios
  4. Cómo las cuentas falsas intentaban parecer reales
  5. Malaysia Pulse mezcló noticias reescritas con acusaciones inventadas
  6. Por qué la MCMC también emitió un desmentido
  7. De las revelaciones de septiembre a las respuestas parlamentarias
  8. Leyes vigentes y un proyecto de ley independiente sobre inteligencia artificial
  9. La inteligencia artificial acelera la producción, mientras las plataformas aportan la audiencia
  10. Puntos clave

El Ministerio de Comunicaciones señaló en una respuesta parlamentaria por escrito, fechada el 17 de noviembre, que la Comisión de Comunicaciones y Multimedia de Malasia (MCMC) evaluaría las pruebas antes de decidir si tomaba nuevas medidas. Podrían aplicarse las leyes vigentes sobre comunicaciones y seguridad en línea, mientras que el Ministerio Digital prepara un proyecto de ley independiente sobre gobernanza de la inteligencia artificial.

Anthropic vinculó la operación con BBS Bilisim Teknolojileri, una empresa tecnológica con sede en Estambul, Türkiye. La empresa negó su participación el 11 de septiembre. Anthropic dijo que canceló las cuentas de Claude implicadas e introdujo medidas para evitar nuevos usos indebidos.

El caso reúne dos escalas distintas: un sistema diseñado para elaborar perfiles de votantes en todo el país y una operación cuya audiencia real parece haber sido limitada. Anthropic afirmó que no encontró pruebas de que la campaña hubiera llegado a comunidades auténticas en línea más allá de su red artificial.

Para los votantes malasios, el presunto engaño iba más allá de las publicaciones engañosas. La plataforma podía hacer que cuentas inventadas parecieran de personas comunes, que artículos reescritos parecieran periodismo independiente y que acusaciones fabricadas parecieran conclusiones de inteligencia. La tarea inmediata de Malasia es determinar quién operó el sistema y qué medidas permiten sus leyes.

Qué pide Malasia a Anthropic

La MCMC ha solicitado aclaraciones técnicas detalladas y pruebas que respalden la información sobre la presunta operación. La respuesta del 17 de noviembre contestó una pregunta de Datuk Seri Dr. Ronald Kiandee, diputado de Perikatan Nasional por Beluran, sobre los responsables y las medidas contra las cuentas falsas y los portales de noticias ficticios.

El Ministerio de Comunicaciones explicó por qué solicitaba más información antes de decidir si tomaría medidas:

«La MCMC está solicitando más información y aclaraciones a Anthropic sobre el informe, para garantizar que toda evaluación y medida posterior se base en información y pruebas suficientes».

El ministro de Comunicaciones, Datuk Fahmi Fadzil, también abordó el asunto en una respuesta parlamentaria a Ahmad Fadhli Shaari, diputado de Perikatan Nasional por Pasir Mas. La pregunta se refería a las medidas del Gobierno para investigar y prevenir la injerencia extranjera en las elecciones mediante Claude y otras aplicaciones de inteligencia artificial.

El ministerio dijo que las medidas posteriores podrían implicar a organismos de seguridad y de aplicación de la ley, plataformas digitales y otras partes pertinentes. El enfoque declarado consiste en reunir pruebas, evaluar el asunto dentro de las competencias de la MCMC y, luego, determinar la respuesta adecuada.

Publicidad

Un servicio comercial creado en torno a datos de votantes malasios

Anthropic describió la plataforma como un servicio que vendía capacidades de influencia política a clientes. Según ese modelo de negocio, un comprador paga a un operador por herramientas o actividades destinadas a moldear el debate público, en vez de crear por su cuenta la infraestructura.

La empresa afirmó que el sistema utilizó información censal, datos electorales y millones de registros de votantes para crear perfiles en los 222 distritos electorales parlamentarios de Malasia. Esos perfiles estaban diseñados para identificar divisiones políticas y sociales locales, incluidas cuestiones relacionadas con la raza, la religión y la monarquía.

Un perfil de distrito electoral reúne en un solo lugar información sobre una zona electoral. En esta operación, Anthropic dijo que Claude ayudó a convertir esa información en herramientas de segmentación y respaldó la infraestructura utilizada para distribuir contenido de influencia. Esa combinación podía permitir a los operadores preparar mensajes distintos para diferentes comunidades.

La evaluación de amenazas de Anthropic describió cómo se presentaba el servicio:

«La plataforma se hacía pasar por un medio especializado en inteligencia cibernética defensiva y herramientas contra la desinformación».

Anthropic afirmó que su investigación vinculó la plataforma con BBS Bilisim Teknolojileri y con la venta de acceso a capacidades de influencia. La negativa de la empresa turca hace que las pruebas técnicas solicitadas por la MCMC sean fundamentales para la evaluación de Malasia.

Cómo las cuentas falsas intentaban parecer reales

Según Anthropic, la plataforma administraba alrededor de 1.000 cuentas falsas en X. Incluía mecanismos destinados a hacer que esas cuentas parecieran consolidadas y auténticas antes de utilizarlas para ejercer influencia política.

Anthropic describió intentos de renovar las cookies y las direcciones de protocolo de internet para evitar ser detectados. Las cookies son pequeños datos que se almacenan durante la actividad en línea, mientras que una dirección de protocolo de internet identifica una conexión en una red. Cambiar estas señales puede ayudar a un operador a ocultar los vínculos entre cuentas.

El panel también permitía a los usuarios solicitar visualizaciones artificiales para una cuenta objetivo. Anthropic afirmó que detectó una solicitud de un millón de visualizaciones artificiales para la cuenta del primer ministro malasio en funciones. No se identificó al cliente que hizo la solicitud y Anthropic no estableció ningún vínculo con el primer ministro Anwar Ibrahim ni con su oficina. Las cifras de interacción que mostraban las propias herramientas del operador no estaban verificadas.

Saifuddin Ahmed, experto en nuevos medios de la Escuela de Comunicación e Información Wee Kim Wee de la Universidad Tecnológica de Nanyang, explicó por qué la presunta actividad constituía una manipulación:

«Por tanto, no se trataba simplemente de dirigir los mensajes a los votantes con mayor eficacia, sino de fabricar una conversación pública artificial y manipulada, ocultando quién estaba detrás».

Publicidad

Malaysia Pulse mezcló noticias reescritas con acusaciones inventadas

Según Anthropic, la operación también gestionaba un medio de noticias ficticio llamado Malaysia Pulse y un canal de YouTube vinculado. El sitio web copiaba publicaciones periodísticas malasias legítimas, utilizaba Claude para reescribirlas repetidamente y publicaba los artículos resultantes con firmas inventadas.

Malaysia Pulse también republicaba material de TV BRICS, Xinhua, Sputnik/RIA y CGTN. Anthropic dijo que se eliminaba la atribución que identificaba a los medios originales, de modo que el material se presentaba como periodismo independiente malasio. El proceso daba a los lectores una impresión distinta de quién había producido las noticias y de dónde procedían.

Junto con los artículos, los operadores utilizaron Claude para generar expedientes de inteligencia falsos con acusaciones contra un político opositor no identificado y organizaciones de la sociedad civil. Un expediente es una recopilación de información sobre una persona u organización; en este caso, la presentación hacía que afirmaciones inventadas parecieran una investigación documentada.

Anthropic describió las acusaciones en términos directos:

«Los actores inventaron por completo estas acusaciones».

Claude rechazó o rechazó parcialmente algunas solicitudes, incluso después de identificar un expediente como destinado a difamar políticamente. Anthropic dijo que el operador cambió entonces la redacción de las solicitudes para seguir buscando las mismas capacidades. El caso muestra la dificultad práctica de detectar un proyecto abusivo cuando las solicitudes individuales se reformulan una y otra vez.

Por qué la MCMC también emitió un desmentido

Anthropic afirmó que el operador había intentado obtener un contrato con la MCMC. La empresa dijo que no encontró pruebas de que el intento hubiera prosperado. El 11 de septiembre, la MCMC respondió negando su participación en actividades o acuerdos del tipo descrito.

El regulador expuso su postura en un comunicado:

«Para mayor claridad, las actividades descritas en el informe no forman parte de las funciones ni del mandato de la MCMC, y la MCMC no participa en actividades o acuerdos de ese tipo».

La MCMC dijo que estaba examinando las acusaciones y solicitando más información para establecer los hechos y comprender el contexto. Añadió que proteger al público y abordar los daños en línea seguía siendo una parte central de sus responsabilidades.

Datuk Seri Azalina Othman Said, ministra de la Oficina del Primer Ministro responsable de las reformas legales e institucionales, pidió una investigación exhaustiva e independiente. Su llamado situó el escrutinio de la operación junto con la propia recopilación de pruebas del regulador.

Publicidad

De las revelaciones de septiembre a las respuestas parlamentarias

La respuesta pública se desarrolló a través de las revelaciones de la empresa, los desmentidos y las preguntas parlamentarias. Los principales pasos fueron:

  • Septiembre: Anthropic reveló la presunta operación dirigida a Malasia en su evaluación de amenazas y dijo que había desactivado las cuentas de Claude implicadas.
  • 11 de septiembre: BBS Bilisim Teknolojileri negó su participación. Por separado, la MCMC negó haber participado en las actividades descritas y dijo que estaba examinando las acusaciones.
  • 3 de noviembre: Una respuesta parlamentaria por escrito a Ahmad Fadhli Shaari detalló las solicitudes de aclaración técnica y la posible aplicación de las leyes vigentes.
  • 17 de noviembre: El Ministerio de Comunicaciones reiteró el proceso de recopilación de pruebas en su respuesta a Ronald Kiandee.

Varios detalles centrales siguen sin hacerse públicos: quién pagó por la actividad en Malasia, las fechas exactas en que operó, su relación con unas elecciones concretas, si Anthropic respondió a las solicitudes de la MCMC y si la policía abrió una investigación penal formal. No se indicó una fecha para la presentación del proyecto de ley sobre inteligencia artificial.

La evaluación de Anthropic de septiembre abarcó varios tipos de uso indebido de Claude, incluidas operaciones cibernéticas, vigilancia, estafas e influencia política. En los casos de influencia, describió a actores que intentaban llegar a audiencias en seis continentes, entre ellos gobiernos, medios de comunicación alineados con Estados y empresas privadas que venden servicios de influencia.

Leyes vigentes y un proyecto de ley independiente sobre inteligencia artificial

El Ministerio de Comunicaciones señaló la Ley de Comunicaciones y Multimedia de 1998, la Ley de Seguridad en Línea de 2025 y otras leyes aplicables como posibles fundamentos para tomar medidas regulatorias o de cumplimiento. Cualquier respuesta dependería de las pruebas y de las competencias de la MCMC.

El proyecto de ley sobre gobernanza de la inteligencia artificial tiene otro propósito. El Ministerio Digital prepara normas sobre rendición de cuentas, gestión de riesgos y las responsabilidades de quienes desarrollan y despliegan sistemas de inteligencia artificial. En términos sencillos, la propuesta se refiere a quién debe gestionar los riesgos de un producto de inteligencia artificial y quién responde cuando se incumplen las responsabilidades.

Las dos vías abordarían diferentes aspectos del problema. Las leyes vigentes ofrecen la vía que el Gobierno ha señalado para responder ahora a la presunta actividad. La legislación propuesta establecería responsabilidades más amplias sobre cómo se desarrollan y utilizan los sistemas de inteligencia artificial.

Una operación atribuida a una empresa radicada fuera de Malasia también exige cooperación más allá de un único regulador. La coordinación prevista por el ministerio con organismos de seguridad, investigadores y proveedores de plataformas refleja dónde podrían encontrarse las pruebas pertinentes: en el servicio de inteligencia artificial, las redes sociales, el operador y los posibles clientes.

Publicidad

La inteligencia artificial acelera la producción, mientras las plataformas aportan la audiencia

Anthropic afirmó que detectó la cuenta mediante sus sistemas internos, retiró el acceso y utilizó la información recuperada durante su investigación para trazar un mapa de la operación más amplia. Pese a la escala de la infraestructura, la empresa no encontró pruebas de que hubiera logrado llegar a comunidades auténticas en línea.

Katie Harbath, exdirectiva de Meta que trabaja en elecciones globales y que ahora dirige la consultora tecnológica Anchor Change, explicó el papel de la inteligencia artificial en la producción de material de influencia:

«La inteligencia artificial puede potenciar esta actividad, porque permite producir mucho más contenido, más personalizado, con mayor rapidez y a menor costo».

Harbath dijo que los operadores siguen necesitando un mecanismo de distribución, que actualmente son las plataformas de redes sociales. El caso de Malasia ilustra ambas partes del proceso: Claude ayudó a crear contenido y herramientas, mientras que las cuentas falsas, un sitio web y un canal de YouTube estaban destinados a llevar el material hasta los lectores.

En otros lugares del Sudeste Asiático han surgido preocupaciones similares. OpenAI prohibió cuentas que generaban comentarios ficticios sobre la política filipina, incluidos comentarios de apoyo al presidente Ferdinand Marcos Jr. En las elecciones de Indonesia de 2024, una versión caricaturizada de Prabowo Subianto generada con inteligencia artificial se hizo popular y contribuyó a suavizar su imagen de hombre fuerte.

La presunta operación de Malasia se centró en divisiones particularmente sensibles. Bridget Welsh, del Instituto de Investigación de Asia y Malasia de la Universidad de Nottingham, advirtió que ese tipo de actividad alimenta la polarización política. El Dr. Ben Loh, profesor de medios de comunicación en Monash University Malaysia, también ha señalado que el contenido generado con inteligencia artificial refuerza la hostilidad existente hacia los refugiados rohinyás.

Para Malasia, el siguiente paso concreto es evaluar las pruebas. Anthropic ha cerrado las cuentas identificadas de Claude; ahora la MCMC debe determinar si la información que obtenga justifica medidas contra las personas u organizaciones responsables de la presunta operación.

Puntos clave

  • La MCMC solicita aclaraciones técnicas y pruebas a Anthropic antes de decidir si toma nuevas medidas.
  • Anthropic describió alrededor de 1.000 cuentas falsas en X, el sitio web Malaysia Pulse y la segmentación de votantes en los 222 distritos electorales parlamentarios.
  • BBS Bilisim Teknolojileri negó su participación después de que Anthropic la vinculara con la plataforma.
  • La MCMC negó haber participado en las actividades. Anthropic dijo que no había pruebas de que prosperara el intento informado de obtener un contrato con el regulador.
  • Anthropic canceló las cuentas identificadas de Claude y no encontró pruebas de que hubieran llegado de manera significativa a comunidades auténticas en línea.
  • Malasia citó las leyes vigentes sobre comunicaciones y seguridad en línea mientras prepara un proyecto de ley sobre gobernanza de la inteligencia artificial.
Compartir este artículo

También le puede interesar