3 DATOS CLAVE:

1. En Facebook circula un video de un supuesto informe de Noticias Caracol sobre un proyecto de inversión promovido por Luis Carlos Sarmiento Angulo y recomendado por el presidente, Gustavo Petro, que promete una rentabilidad de hasta 80 millones de pesos.
2. El contenido usa imágenes viejas que fueron manipulados con inteligencia artificial, como lo evidencian las voces robotizadas, diálogos poco naturales y gesticulaciones anormales al hablar, que incluyen un movimiento extraño de la lengua de la presentadora.
3. El video circula con un enlace que redirige a un artículo sobre inversiones en Colombia que no tiene relación alguna con la plataforma aludida ni es actual.

Una publicación en Facebook presenta un presunto informe de Noticias Caracol, elaborado supuestamente por la periodista Catalina Gómez, en el que se aborda un proyecto creado por el empresario Luis Carlos Sarmiento Angulo, en el que, con tan sólo aportar 1,1 millones de pesos, las personas podrían obtener 80 millones de utilidad. En la pieza audiovisual incluso aparece el presidente, Gustavo Petro, reconociendo las bondades de esta aparente inversión.

El video posteado por el usuario ‘Cesen’ el 24 de marzo pasado cuenta con más de 300 reacciones, pero es falso. Es una pieza que fue hecha con inteligencia artificial (IA), en la que se reemplazó la voz de los individuos que se ven en el material. Las grabaciones originales no tienen relación con el tema, pero les alteraron el audio.

El contenido del video que invita a invertir en una plataforma

En el video aparece Gómez, supuestamente diciendo:

“En su última entrevista, Luis Carlos Sarmiento Angulo dijo que no podía seguir callado. Dijo que Gustavo Petro le está ocultando a la gente una plataforma que podría ayudar a las personas a ganar dinero. Según él, esta plataforma, que está siendo mantenida en secreto por altos funcionarios del gobierno y empresarios, permite ganar 80 millones de pesos al mes con una inversión de solo 1’100.000 pesos…”.

Luego aparece el empresario, al parecer afirmando que la supuesta razón del ocultamiento de su plataforma son los “motivos personales del gobierno”. A su vez, reitera las supuestas altas utilidades.

Posteriormente, la presentadora introduce una supuesta intervención de Petro en la que el primer mandatario aparentemente explica que inicialmente el gobierno creyó que se trataba de una estafa, pero la probó y se aseguró de que sus resultados eran reales: “Ahora puedo decir que esta plataforma es confiable y realmente genera ingresos significativos para miles de colombianos. Creo que ahora es mi deber recomendársela”.

Además, la supuesta voz -que se escucha robótica desde un comienzo- del presidente afirma que la plataforma tiene el respaldo del Banco de la República. 

Cabe destacar que el audiovisual publicado por Cesen el 24 de marzo cuenta con varios comentarios que lo acusan de: “Ratas puras ratas”, “Esto es mentira. Las plataformas de inversiones son pirámides modernas” y “Fraude, no crean”.

Voces e imágenes alteradas con IA

Al observar el contenido, hallamos algunos indicios del uso de inteligencia artificial: voz robotizada, alteración en el movimiento de los labios de las personas que hablan y diálogos sin pausas y poco naturales. Aspectos que hemos explicado ampliamente en múltiples chequeos realizados por este medio en los que usan imágenes alteradas de presentadores de Noticias Caracol.

Como el primer personaje público mencionado es Sarmiento, realizamos una búsqueda inversa en Google Lens y no hallamos resultados que coincidieran con el video. No obstante, manualmente en YouTube encontramos las coincidencias visuales en las que se ve al banquero con el mismo fondo del video (las banderas de Colombia) y el mismo traje puesto. 

El video es del 21 de marzo del 2024, día en que el empresario anunció su retiro del mando del Grupo Aval y anunció como su sucesor a su hijo, Luis Carlos Sarmiento Gutiérrez. En el audiovisual original, publicado por La República, no promueve ninguna plataforma sino que habla de las capacidades de su heredero para liderar el conglomerado financiero y los retos de este en el mercado colombiano. 

También realizamos una búsqueda inversa en Google con el primer fotograma clave del apartado en que aparece Petro y hallamos varias coincidencias visuales, entre las que se encontraba un video de YouTube posteado por la cuenta oficial de la Presidencia de Colombia el 7 de noviembre del 2024, titulado “Palabras del Presidente Gustavo Petro durante la presentación del balance de la COP16”.

Encontramos también fragmentos del mismo que fueron publicados en X y Facebook por las cuentas oficiales de Presidencia.

El Presidente @PetroGustavo, junto con los miembros del gabinete ministerial, presentaron a la opinión pública los logros significativos de la COP16, donde Cali fue el anfitrión y mayor beneficiario de este gran evento.

En este hilo te los presentamos. ⬇️
(1/5) 🧵 pic.twitter.com/wh0iruOAmd

— Presidencia Colombia 🇨🇴 (@infopresidencia) November 7, 2024

Pudimos constatar que la ropa del mandatario y el espacio con flores moradas de fondo coinciden con los de la desinformación. No obstante, el jefe de Estado en ningún momento habla de plataformas de inversiones, sino que presenta los beneficios que tuvo la Conferencia de Naciones Unidas sobre Biodiversidad para el país, incluyendo el balance económico de las jornadas que transcurrieron en Cali. 

El análisis de IA 

En artículos anteriores, Alejandro Lozada, físico, periodista de datos y magíster en sistemas complejos adaptativos (matemáticas detrás de la IA), explicó a Colombiacheck que la inexistencia de errores de dicción pueden indicar la lectura de un guión por parte de algún sistema de inteligencia artificial [1 y 2]. Y que los audios se pueden generar a partir de grabaciones de voz preexistentes.

Léase, el explicador: “Posibles audios creados por IA llegan a las elecciones regionales, ¿qué tan factible es identificarlos?”.

Analizamos, entonces, el video con el detector de Hive Moderation, que arrojó una alta probabilidad de que el sonido fuera realizado con inteligencia artificial o ‘deepfake’ (99%).

Por el contrario, Deepware, no detectó deepfakes en el video de redes sociales. Salvo para la herramienta Seferbekov (85%). 

Debe mencionarse, además, que las herramientas usadas no dan una certeza del 100% sino que muestran probabilidades. Los resultados pueden verse afectados por elementos técnicos como la calidad de los videos. Pero, las búsquedas del material original determinan que se trata de material alterado por IA. 

La redirección de la URL a un supuesto portal de inversiones

Al analizar la publicación, notamos que usa el mismo esquema de otro vídeo que habíamos analizado durante la semana anterior: “Nueva suplantación a Noticias Caracol con IA invita a supuesta inversión con Sarmiento y el BanRep”. 

En ambos casos, se dirige al dominio comrenib.com, en un artículo de una supuesta agencia de inversiones llamada Besta: “En qué invertir en Colombia en 2024? Algunas claves de los sectores y activos para tener en el radar” (sic), del 10 de mayo de ese año. De manera complementaria, al escanear la página con SkySnag no se halló evidencia de ficheros maliciosos. En el texto no se invita a invertir en una plataforma.

Al buscar apartados del mismo en Google, encontramos que había sido publicado inicialmente en Bloomberg el 14 de marzo del 2024.

Con base en los datos obtenidos, podemos calificar el supuesto reporte de la periodista Catalina Gómez sobre Luis Carlos Sarmiento y Gustavo Petro promoviendo una plataforma de inversiones como falso, porque se trata de un video con voces alteradas por IA con base en grabaciones de otras temáticas.