3 DATOS CLAVE:

1. Un video de Juanes circula en Facebook para promocionar una “caja misteriosa de Amazon” para el Black Friday. La página que difundió la publicación le pagó pauta publicitaria en la red social e Instagram para ampliar su alcance.
2. El clip original, sin embargo, es de 2023. En él, el artista anunció su gira por varias ciudades de Colombia para este año. En ninguna parte menciona lo que se le atribuye en el otro audiovisual.
3. En la desinformación se pueden notar signos de manipulación en el movimiento de los labios y la voz robotizada. También, detectores de contenidos con inteligencia artificial concluyen que existe evidencia del uso de esta tecnología.

En Facebook circula un video de 23 segundos del cantante colombiano Juanes promocionando una “caja misteriosa de Amazon” que contiene diversos productos. El post comenzó a rodar para Black Friday y ya ha acumulado más de 365.000 vistas.

“¿Te imaginas pagar menos que una pizza y recibir en la puerta de tu casa productos increíbles de Amazon como iPhone, Mcbook o Playstation con la caja Amazon edición especial de Black Friday? (…) Haz clic ya. Asegura la tuya antes de que se agote”, dice, al parecer, el compositor. 

Este contenido aparece reportado en la plataforma de terceros verificadores de datos de Meta, a la cual tenemos acceso como fact-chekers y donde se registran publicaciones con potencial desinformador en las redes de la compañía.

En Colombiacheck verificamos el video y concluimos que es falso. En realidad, se trata de una manipulación sobre un video de Juanes de 2023, en el cual anunció una gira por Colombia. La alteración fue hecha posiblemente con inteligencia artificial (IA), según los resultados de herramientas de detección y signos inusuales en el clip.

Anteriormente en Facebook alteraron un video de Shakira también con una voz artificial generada con la misma tecnología para publicitar una supuesta plataforma de inversión. 

Página que difundió el montaje 

La fan page que publicó el video se llama “Cecilia Araujo” y en su descripción dice que es “una influencer en Colombia”, pero solo tiene nueve publicaciones desde agosto de 2023 y se encuentra administrada desde Brasil, según la página de transparencia de Facebook. 

Esta página le pagó pauta publicitaria al audiovisual de Juanes el 19 de noviembre para ampliar su alcance en Facebook, Facebook Messenger e Instagram. Así consta en la biblioteca de anuncios de Meta:

En chequeos anteriores hemos advertido sobre campañas publicitarias conformadas por videos manipulados con IA que se ponen a rodar en la red social para promocionar productos y servicios. Algunos de nuestras verificaciones al respecto son:

• Tenga cuidado con proyecto para invertir en Ecopetrol que circula con posible manipulación de IA.
• Video de Manuel Elkin Patarroyo sobre supuesta cura para várices es una imitación con signos de IA.
• Circulan en Facebook videos con personajes creados con Inteligencia Artificial para promocionar a un médico para la diabetes.

Sobre el video de Juanes 

Con búsqueda inversa a través de Google Lens, hallamos que el video original de Juanes fue posteado el 20 noviembre de 2023 en sus cuentas de X y Tiktok (@juanes). En la grabación, el compositor anunció su gira “Juanes Colombia” por varias ciudades del país durante este año.  

“En 1988 empecé a girar por Colombia. Me iba pa’ Cali, pa’ Pereira, Bogotá, obviamente Medellín cuando era parte de Ekhymosis. Desde eso han pasado ya casi 30 años, por eso ahorita regresar a Colombia, tocar a mi ciudad, a mi país, tiene un significado impresionante, así que este 2024 nos vemos ahí: Pereira, Bucaramanga, Cali, Bogotá y Medellín. Me contaron que acaban de salir las boletas para la gira Juanes Colombia, así que hagan clic en el link”, señaló. 

En 1988 comencé a girar por Colombia siendo parte de Ekhymosis, luego soñé con darle la vuelta al mundo y se la he dado varias veces. Ahora mi sueño es regresar de nuevo a girar por mi tierra, por mi Colombia adorada. Hoy les comparto que estaré con ustedes en mayo del 2024.… pic.twitter.com/WKVaAbxE3s

— JUANES (@JUANES) November 20, 2023

En ninguna parte del clip menciona algo referente a una caja de Amazon o al Black Friday, lo cual nos da indicios de la manipulación de Facebook. 

Videos con signos de IA

Otras señales del montaje en redes es que el movimiento de los labios se nota extraño, como ralentizado, en los segundos 2, 9 y 15, y la voz se escucha robótica y mecánica.

Cuando analizamos el contenido con la herramienta TrueMedia, donde se pueden detectar deepfakes (contenidos hechos con inteligencia artificial), la aplicación concluye que en efecto existe evidencia de manipulación con IA. Muestra un 100% de probabilidades de que la voz se trate de una clonación sintética de la original y un 50% de probabilidades de que hubo alteración del rostro. 

Tras un análisis sobre lo que dice el video, la aplicación apunta: “La transcripción parece un anuncio promocional, con afirmaciones exageradas y un llamado a la acción típico del lenguaje de marketing (…) El tono es pulido y persuasivo, característico de un contenido de marketing guionizado más que de un discurso espontáneo”.

La plataforma de detección de audios falsos con IA Deepfake Voice Detector, propiedad de Hiya, una empresa de servicios de voz y telefonía, señaló un 100% de probabilidades de que la voz de Juanes se trate de un deepfake. 

Por su parte, el escáner de Hive, una empresa que brinda soluciones corporativas con inteligencia artificial, indica un 16,4% de probabilidad de que el video de Facebook hubiese sido creado o alterado con IA. 

En conclusión, calificamos de falso el video de Juanes promocionando una caja de Amazon en Facebook pues se trata de una manipulación a un clip del cantante colombiano en el cual anuncia su gira por el país para este año. El montaje posiblemente fue hecho con inteligencia artificial, así lo demuestran signos inusuales en el clip y las conclusiones de escáneres de deepfakes.