3 DATOS CLAVE:

1. Un video en el que aparece Shakira circula en Facebook promocionando un supuesto proyecto de inversión al cual dice pertenecer, liderado por una persona llamada Isabella y donde estarían reclutando a 15 miembros.
2. Las imágenes del video coinciden con varias entrevistas de la artista por el lanzamiento de su más reciente disco ‘Las mujeres ya no lloran’, sin embargo, en ninguna menciona lo que se le atribuye en el audiovisual.
3. El audio manipulado tiene señales de haber sido creado con IA, como el desfase entre el movimiento de los labios y lo que dice, frases pronunciadas de forma extraña y ausencia de pausas. Además, varios programas de detección de IA mostraron altas probabilidades de alteración con esta tecnología.

En Facebook circula un video de 30 segundos en el que aparece la cantante Shakira, supuestamente invitando a ser parte de un proyecto de inversión de esta forma: “Hola, a todos, quiero contarles sobre mi amiga Isabella. Isabella es una inversora líder, madre de dos hijos y simplemente una chica maravillosa que está reclutando a 15 personas para llevarlas a al primer resultado en solo dos días Yo mismo estoy en el equipo de Isabella, invierto constantemente” (sic). 

En la parte inferior del audiovisual aparece un cintillo con el logo de Noticias RCN y el texto: “La cantante compartió cómo los colombianos pueden entrar en el equipo del proyecto de inversión”. La publicación, además, contiene un enlace a colombiatrabajo.pro. Esta dirección lleva a un canal de Telegram llamado “Ganancias sin Fin”, perteneciente a Isabella Rodríguez.

En Colombiacheck verificamos esta publicación y concluimos que es falsa. Shakira no ha dado declaraciones invitando a invertir con una persona llamada Isabella. La evidencia apunta que se trata de una manipulación de su voz con inteligencia artificial, tal como ha ocurrido recientemente con otras figuras públicas. 

Cuando hicimos búsqueda inversa con Google de la foto de la persona, incluso, descubrimos que fue denunciada por el medio Pulzo por haber usado en otro video la imagen de Catalina Gómez, presentadora de Noticias Caracol, y también montarle un audio para publicitar su supuesto proyecto de inversión. En el clip se asegura que el plan tiene el apoyo del Banco de la República, sin embargo, esta entidad lo negó al medio. 

Manipulación de la voz de Shakira 

Tomamos fragmentos donde aparece Shakira en el video de redes sociales y con búsqueda inversa de Google encontramos varios resultados que mostraban a la cantante en entrevistas por su más reciente disco, ‘Las mujeres ya no lloran’. Entre los medios nacionales que conversaron con ella estuvo La Mega, que forma parte de RCN. La entrevista fue dirigida por Alejandro Villalobos, también periodista de La FM. Además, la cantante le ofreció declaraciones a Noticias Caracol y Revista Semana.

En las entrevistas, la artista colombiana no menciona un proyecto de inversión, mucho menos relacionado con una empresaria llamada Isabella, sino que se limita a hablar de su álbum y su carrera musical.

Cabe destacar que, en el video de redes, se observa que los labios de la cantante no van en consonancia con lo que dice. Además, el audio se escucha robotizado, sin pausas e incluso se le escuchan errores de pronunciación en palabras sencillas que suelen cometer los lectores automatizados, como “milones de pesos” (sic), en referencia a los ingresos de su supuesta amiga.

También la voz de Shakira en la publicación de Facebook se escucha más aguda y acelerada. En cambio, el tono que usó en las entrevistas mencionadas y de las cuales se tomó el fragmento de la imagen de la cantante, la artista habla con más pausado y de forma más grave.

Aquí una comparación de ello con estos audios:

Audio falso.

Audio verdadero extraído de la entrevista con La Mega, perteneciente a RCN.

El audio también lo analizamos con el clasificador de voz de Eleven Labs, una empresa de software especializada en síntesis de voz y conversión de texto a voz con sonido natural. Como resultado, nos indicó que hay 77% de probabilidades de que la supuesta voz de Shakira haya sido creada con un programa de inteligencia artificial (IA).

También analizamos el video con la herramienta TrueMedia.org que permite detectar deepfakes (archivos manipulados con inteligencia artificial) y su resultado fue que el audiovisual resulta altamente sospecho de tener IA, aunque es necesaria aclarar que esta aplicación se encuentra en su fase beta, es decir, en su primera versión y puede tener fallos (1, 2, 3). 

En el caso del rostro indicó que había 83% de posibilidades de alteración con IA y sobre el audio, 98% de probabilidades.

Alejandro Lozada, físico, periodista de datos y magíster en sistemas complejos adaptativos (matemáticas detrás de la IA), en un chequeo anterior nos explicó que cuando se observan fallas en el movimiento de los labios y los audios suenan desfasados esto puede ser un indicio del uso de esta tecnología. 

También apuntó que, cuando la voz no comete errores de dicción ni muestra ninguna dinámica de corrección, eso es señal de que alguien escribió un guión y luego le pidió a una IA que lo leyera, pues un humano cuando habla hace pausas inesperadas, se equivoca, tartamudea, tiene que repetir, se le olvida cosas, etc.

Este experto ya nos había señalado, en otra oportunidad, que hoy en día la generación de audios con este tipo de tecnología resulta más sencilla, pues mientras antes se necesitaban mucho tiempo de grabación de una voz para que la imitara, ahora solo con un minuto se puede obtener un clip de audio similar con aplicaciones gratuitas.

Video circula con pauta publicitaria en Facebook

El audiovisual fue publicado el 6 de mayo por la página “Isabella Rodríguez”, con 140 seguidores y creada en 2021 bajo el nombre de Lonely shape, de acuerdo con la sección de transparencia de Facebook.

Con este mismo audiovisual aparecen 11 anuncios con pauta publicitaria en esa red social e Instagram, ambas de la compañía tecnológica Meta. Es decir, estas publicaciones recibieron una inversión monetaria para ampliar su alcance. 

Una táctica repetida en otras manipulaciones con IA

En el último mes, hemos detectado al menos otros cuatro videos falsos con las voces alteradas posiblemente con IA del presidente del Banco de la República, Leonardo Villar; los senadores Iván Name y Mauricio Gómez; los empresarios Luis Carlos Sarmiento, David Vélez, Jaime Gilinsky y hasta el magnate Elon Musk, para invitar a invertir en otras plataformas. Un rasgo común es que también utilizaron los elementos gráficos e incluso los periodistas de Caracol Noticias (1, 2, 3).

Otra característica común en este tipo de contenido es su promoción a través de pauta publicitaria en Facebook e Instagram. Uno de estos casos lo documentamos previamente ennuestro chequeo “Con posibles voces de IA manipulan videos de Noticias Caracol sobre supuesta ley de inversión”.

En conclusión, calificamos de falso el video que circula en el que supuestamente aparece Shakira promocionando un proyecto de inversión liderado por una emprendedora llamada Isabella. En realidad, se trataría de una alteración de una entrevista suya y de su voz, probablemente con inteligencia artificial.