Una etiqueta pequeña ante un problema creciente
Las actrices Janhvi Kapoor, Keerthy Suresh y Sunainaa han protestado por el uso indebido de su imagen en deepfakes generados con inteligencia artificial (IA), y han advertido que emprenderán acciones legales tras la difusión de imágenes y videos objetables. Sus experiencias han puesto sobre la mesa una pregunta práctica para las plataformas de redes sociales: ¿qué tan fácil es para los usuarios saber si la persona que aparece en pantalla ha sido creada digitalmente?
Contenido
CB Arun Kumar, experto en efectos visuales y decano de las áreas de comunicación, cine y videojuegos de Pearl Academy, pide leyes que exijan etiquetas claras y destacadas para el contenido creado con IA. Sostiene que los avisos actuales pueden pasar inadvertidos con demasiada facilidad, lo que hace que el material fabricado parezca una fotografía, una grabación o un hecho noticioso auténticos.
La etiqueta «Información sobre IA» de Instagram ocupa un lugar central en sus críticas. Según explica, el aviso aparece en letra pequeña entre el nombre de usuario de la cuenta y la imagen o el video publicado. Su preocupación es la visibilidad: la divulgación aporta poca ayuda práctica a quien sigue desplazándose sin advertirla.
Arun Kumar explicó por qué quiere requisitos de etiquetado más estrictos:
«Necesitamos leyes más estrictas que exijan etiquetas claras y destacadas para el contenido generado con IA, para que ya no pueda hacerse pasar por noticias, como ocurre con algunos videos de desastres que proliferan en internet. El verdadero problema surge cuando el público ya no puede distinguir lo real de lo falso».
Su propuesta aborda dos problemas relacionados. Los actores sufren el daño personal de ver su identidad incluida en material objetable. El público corre el riesgo de aceptar una escena fabricada como si hubiera ocurrido realmente. Una etiqueta visible daría información a los usuarios en el momento en que encuentran la imagen, antes de decidir si creerla o compartirla.
¿Qué les ocurrió a las actrices?
Kapoor, Suresh y Sunainaa son algunas de las actrices que han expresado su indignación o protestado después de que su imagen apareciera en fotografías o videos deepfake objetables. Sus reacciones incluyen advertencias de acciones legales contra los responsables del uso indebido.
Un deepfake es una imagen, un video o una grabación de audio creado o alterado con IA para hacer que alguien parezca hacer o decir algo que no hizo ni dijo. En el caso de un actor, sus rasgos faciales reconocibles pueden hacer que la falsificación parezca convincente, aunque esa persona nunca haya participado en su creación.
El problema inmediato es el control sobre la propia identidad. Un actor puede elegir qué papeles aceptar, qué fotografías publicar y qué productos promocionar. Una imagen fabricada puede situar a ese mismo actor en una escena que nunca aprobó, mientras que los usuarios pueden suponer inicialmente que su aparición es auténtica.
Arun Kumar pide un requisito legal más estricto; no anuncia que haya entrado en vigor una nueva norma. En sus declaraciones no se identificó ningún proyecto de ley concreto, plazo de aplicación ni sanción propuesta.
Las imágenes falsas existían antes de la IA
Arun Kumar enmarca la preocupación actual en una larga historia de imágenes manipuladas en el entretenimiento. Antes de las herramientas de IA actuales, se podían utilizar dobles de cuerpo, Photoshop y técnicas de efectos visuales como la clonación y la transformación gradual de imágenes para crear escenas falsas.
La clonación copia elementos dentro de una imagen o secuencia. La transformación gradual modifica una imagen hasta convertirla en otra, incluso alterando un rostro o su apariencia. Ambas técnicas pueden tener usos legítimos en la producción cinematográfica, donde el público espera que haya escenas construidas. El problema surge cuando el material manipulado se presenta como un registro real de la conducta de alguien.
La IA ha dado a las personas otra forma de producir ese tipo de material, incluidas aquellas que buscan obtener dinero rápidamente aprovechando la atención y la difusión. Arun Kumar sostiene que la tecnología debe evaluarse según sus usos y que los responsables de contenido objetable deben afrontar las vías legales que ya existen.
Arun Kumar señaló que la legislación vigente ya ofrece mecanismos para solicitar la retirada de contenido:
«Ya existen muchas vías legales para retirar ese tipo de contenido objetable».
La retirada y el etiquetado abordan distintos momentos de un mismo proceso. Solicitar la retirada busca impedir que una imagen siga disponible después de que alguien la haya impugnado. Una etiqueta destacada ayuda a los usuarios a evaluarla mientras aún está en sus pantallas. Su planteamiento pone de relieve ambas tareas: responder al material dañino y facilitar el reconocimiento de su origen artificial.
Por qué importa el tamaño de una etiqueta
El pequeño aviso de IA de Instagram ilustra la diferencia entre incluir una divulgación y hacer que resulte útil. Arun Kumar quiere que las plataformas muestren la información de forma tan destacada que los usuarios comunes puedan verla sin tener que buscarla alrededor de la imagen.
Un video falso de un desastre muestra por qué esto importa más allá de la cultura de las celebridades. Quien ve lo que parece ser la grabación de una emergencia real necesita saber si la escena fue generada. De lo contrario, la imagen puede influir en su percepción de un hecho que nunca ocurrió de la manera mostrada.
Para los actores, la cuestión es más personal. Su rostro es el rasgo que permite reconocer la imagen falsa y atrae la atención. Si un usuario no ve la etiqueta, puede asociar la escena con el actor antes de saber cómo se creó.
Por tanto, la exigencia de Arun Kumar se refiere tanto a la presentación de la información como a su presencia. Una plataforma puede colocar un aviso junto a una publicación, pero su tamaño y ubicación siguen influyendo en que el público lo vea. El criterio que propone es sencillo: el origen artificial debe ser claramente visible.
El consentimiento es otra preocupación para los artistas
Arun Kumar también distingue entre rechazar la IA en su conjunto y cuestionar el uso de la obra de un artista sin permiso. Lo primero es un juicio sobre toda una tecnología. Lo segundo se refiere a la forma en que se obtuvo y utilizó un material concreto.
El entrenamiento es el proceso por el cual un sistema de IA aprende patrones a partir de ejemplos, que pueden incluir imágenes, textos, sonidos o videos. Los artistas preocupados por este proceso preguntan qué ocurre cuando su obra creativa se incorpora a él sin su consentimiento.
Esta cuestión va más allá de un deepfake visible. Un actor puede objetar a una representación fabricada, mientras que un ilustrador u otro creador puede oponerse al uso de su obra para desarrollar el sistema que genera nuevas imágenes. Las personas afectadas y las conductas que cuestionan pueden ser distintas.
Arun Kumar sostiene que condenar la IA de forma generalizada pasa por alto esas diferencias. Su postura deja espacio para usos creativos legítimos, a la vez que toma en serio las objeciones relacionadas con el permiso. Para el público, las preguntas útiles son concretas: ¿de quién es la identidad que aparece?, ¿de quién es la obra utilizada? y ¿qué permiso se concedió?
Los artistas digitales afrontan presión sobre sus ingresos
Según Arun Kumar, los artistas gráficos que trabajan en medios de comunicación, empresas, cine, televisión, arquitectura y moda afrontan otra consecuencia de la expansión de la IA. Su preocupación es poder ganarse la vida cuando las empresas pueden generar ciertos tipos de material visual con mayor rapidez.
Arun Kumar afirma que el trabajo que requiere un esfuerzo humano minucioso está perdiendo valor comercial a medida que los resultados generados con IA se convierten en una alternativa. Al decidir cómo producir una imagen, los clientes pueden tener en cuenta la rapidez y el costo, además de las habilidades y el criterio de un artista.
La presión también puede afectar a la percepción del trabajo humano. Arun Kumar advierte que las imágenes elaboradas cuidadosamente pueden compararse con resultados de baja calidad generados con IA. Para un artista, esto significa tener que explicar el valor de su trabajo en un mercado donde el público y los clientes encuentran cada vez más ambos tipos de imágenes.
Arun Kumar describió la presión sobre el empleo y sus consejos para los artistas:
«La realidad es que la revolución de la IA los está dejando sin trabajo porque puede hacer las tareas más rápido. Los verdaderos artistas que puedan usar la IA como una herramienta más en su proceso de trabajo sobrevivirán y prosperarán».
Un proceso de trabajo es la secuencia de pasos que se sigue para completar un proyecto creativo, desde la idea inicial hasta la imagen o película terminada. Su consejo es aprender cómo puede integrarse la IA en ese proceso, sin dejar de aportar al trabajo decisiones y habilidades humanas.
Su pronóstico es optimista respecto a los artistas que se adapten, pero su análisis también reconoce la presión inmediata sobre quienes dependen de tareas que la IA puede acelerar. Los actores que buscan protección frente a las representaciones fabricadas y los artistas que afrontan una competencia más barata experimentan distintas facetas de un mismo cambio tecnológico.
En resumen
- Janhvi Kapoor, Keerthy Suresh y Sunainaa son algunas de las actrices que han protestado por el uso indebido de su imagen en deepfakes.
- CB Arun Kumar, decano de Pearl Academy y experto en efectos visuales, pide leyes que exijan etiquetas claras y destacadas para el contenido generado con IA.
- Sostiene que los avisos pequeños, incluida la etiqueta «Información sobre IA» de Instagram, pueden pasar inadvertidos con demasiada facilidad.
- Apoya las medidas contra los usos dañinos de la IA y plantea preocupaciones por el uso de la obra de artistas sin su consentimiento.
- Afirma que los artistas digitales afrontan presión sobre sus ingresos y deberían aprender a incorporar la IA a sus procesos creativos.
