3 DATOS CLAVE:

1. En Facebook presentan dos videos alterados de Noticias Caracol sobre la aparente aprobación por parte del Senado de una ley de inversiones e invita a aprovecharla.
2. En los videos se usan voces falsas de periodistas del canal, del gerente del Banco de la República, Leonardo Villar, y de los senadores Iván Name y Mauricio Gómez. Los audios presentan indicios de haber sido creados con inteligencia artificial.
3. En las publicaciones se adjuntan enlaces engañosos que supuestamente llevan a El Tiempo pero que, en realidad, dirigen a páginas en inglés sobre inversión en Colombia.

Circulan en Facebook dos presuntos noticieros de Caracol en los que periodistas, senadores, el Banco de la República e incluso el millonario Elon Musk hablan de una supuesta nueva legislación en el país para invertir y ganar hasta 30 millones de pesos por mes.

En el primer audiovisual (1, 2), se observa una sesión del Senado y al gerente del Banco de la República, Leonardo Villar, hablar de un programa de inversión que supuestamente ya ha utilizado la institución con importantes resultados y que “ha demostrado su capacidad para aportar beneficios financieros reales a todos los involucrados”. En la pieza, aparecen las periodistas Catalina Gómez y María Camila Roa.

El segundo video lleva por título “Se ha aprobado la ley, todo el mundo puede invertir” y un texto que dice: “Empieza por 959.000 pesos y accede al programa” (1, 2). En él figuran los periodistas Jorge Alfredo Vargas y de nuevo Roa, quien habla sobre una sesión del Senado en la que los congresistas votarían a favor del proyecto de inversión. 

En esta publicación, el presidente del Senado, Iván Name, aparece diciendo que el programa desarrollado “por nuestros científicos durante muchos años, no debe ser utilizado solo por el Banco Central”. El también senador Mauricio Gómez Amín señala que la nueva legislación “permitirá a los colombianos convertirnos en la nación más rica del planeta”. 

Al final de los videos se incluye al multimillonario Elon Musk, dueño de empresas como X y Tesla. En uno de ellos, pide dejar datos personales en el enlace adjunto y en otro explica que los participantes en el programa de inversión solo necesitan de “un teléfono móvil, internet y alrededor de un millón de pesos” para ganar hasta 30 millones al mes. 

En Colombiacheck verificamos las publicaciones y las calificamos de falsas. En ambos casos se manipulan las voces en el noticiero y otros videos para promocionar el presunto proyecto de inversión. Los audios tienen indicios de haber sido generados con inteligencia artificial. 

Además, tanto Caracol como los senadores mencionados y el Banco de la República han desmentido la supuesta nota y las declaraciones en ella.

Las publicaciones contienen enlaces engañosos que prometen llevar a la página de El Tiempo, pero en realidad se dirigen a una web sobre inversión en Colombia que no ofrece mayor información acerca del supuesto proyecto.

Recientemente, hemos verificado otras alteraciones con voces falsas superpuestas en videos de Noticias Caracol. Se trata de un supuesto proyecto de inversión que utiliza la imagen del expresidente Álvaro Uribe o de una falsa noticia para promocionar falsos remedios para curar la diabetes o la prostatitis. 

¿De dónde surgieron los videos?

Una de las páginas que difundió el video en Facebook fue la página “Tu oportunidad”, creada apenas el 18 de marzo, y con 681 seguidores. En la descripción solo dice que es un servicio financiero, tiene un número telefónico vinculado con indicativo de Estados Unidos (+1) y en las opiniones los usuarios señalan que es una estafa. 

En la biblioteca de anuncios de Meta existe registro de que la fan page puso en circulación 13 anuncios, algunos eliminados por incumplir las normas de la plataforma. Entre las pautas, hubo varias con los videos chequeados, los cuales recibieron entre 15.000 y 30.000 impresiones.

Involucrados en los videos los desmienten

El 30 de marzo, el noticiero desmintió los dos videos que circulan sobre la supuesta aprobación del proyecto de inversión. Argumentó que se trata de una alteración con inteligencia artificial.

 

 

 

 

View this post on Instagram

 

 

 

 

 

 

 

 

 

 

 

A post shared by Noticias Caracol (@noticiascaracol)

El Banco de la República emitió un comunicado en el que aclaró que el video donde figura su gerente, Leonardo Villar, también era fraudulento pues el audio no corresponde con la realidad. 

Los senadores Iván Name y Mauricio Gómez, por su parte, alertaron que la grabación en la que aparecen estaba manipulada con inteligencia artificial. Ambos congresistas pidieron a las autoridades una investigación sobre los hechos. 

Hace algunos minutos he conocido que en redes sociales y en particular en Facebook circula un video en el que se altera a través de inteligencia artificial mi imagen y mi voz, así como las del Senador Mauricio Gómez Amin, aparentemente con la finalidad perpetrar una estafa.
Pongo…

— Iván Name Vásquez Senado (@IvanNameVasquez) March 29, 2024

¡Esto es increíble! 🚨

Vía WhatsApp me han compartido un video que está circulando en todas las redes sociales en donde evidentemente con inteligencia artificial se altera mi imagen y voz, así como la del presidente del senado, @IvanNameVasquez, con el propósito de perpetrar una…

— Mauricio Gómez Amín (@MauricioGomezCO) March 30, 2024

Videos originales 

Con una revisión manual en las plataformas oficiales de Noticias Caracol, pudimos encontrar varios de los videos utilizados y en ninguno de ellos se habla del mencionado proyecto de inversión. El primer audiovisual alterado del canal en realidad corresponde al 5 de marzo, cuando la periodista María Camila Roa, quien cubre Congreso, dio un reporte sobre las marchas convocadas para el día siguiente por la oposición al gobierno de Gustavo Petro. 

Por otro lado, el audiovisual del gerente del BanRep corresponde a su intervención en la “Vigésima cuarta Reunión del Grupo de Estabilidad Financiera Regional”, el 23 de marzo del año pasado. En su discurso, disponible en YouTube, se refirió al papel de los bancos centrales para intervenir en medio de crisis financieras. En ningún momento habló sobre un proyecto de inversión (discurso completo).

También encontramos que el otro video del informativo de Caracol, en el que aparecen los senadores Name y Gómez, pertenece a una emisión del 18 de marzo. En ella se informa sobre una discusión en el Senado a propósito de la propuesta de una asamblea nacional constituyente planteada por el presidente Petro. 

Iván Name, presidente del Senado, respondió a la propuesta del presidente Gustavo Petro de convocar a una Asamblea Nacional Constituyente. El legislador del Partido Alianza Verde le recordó al jefe de Estado que es el “presidente de Colombia, no un habitante pasajero del Palacio… pic.twitter.com/DlD0dClFYQ

— Noticias Caracol (@NoticiasCaracol) March 19, 2024

Por último, con búsqueda inversa de Google encontramos que el clip de Musk pertenecía a su intervención en la Conferencia Mundial Conectada de Bosch el 29 de febrero. En ella ofreció su pronóstico sobre el futuro de la inteligencia artificial y los vehículos autónomos. Tampoco menciona un proyecto de inversión como el que refieren los videos chequeados.

Audios con señales de IA

Al analizar los videos de Facebook, detectamos que en ambos casos los gestos de los labios al hablar se notan robóticos y poco naturales. En algunos fragmentos, sigue la voz aunque la boca de la persona esté cerrada.

En cuanto al audio de la periodista Roa, en el segundo audiovisual donde aparecen los senadores Name y Gómez, su voz suena más aguda y con un acento mexicano, diferente al suyo. También se pueden notar ligeras diferencias con la voz del congresista Name, quien tiene un tono más grave y habla un poco más pausado. 

Aquí mostramos las diferencias. Este es el audio falso de Roa y el senador Name:

Este es el audio verdadero de la periodista y del congresista tomado del video utilizado de Caracol Noticias. Aquí se puede notar la diferencia:

Alejandro Lozada, físico, periodista de datos y magíster en sistemas complejos adaptativos (matemáticas detrás de la IA), coincidió que en efecto en los videos se observan fallas en el movimiento de los labios y los audios suenan desfasados. 

“Lo otro es que no cometen errores de dicción ni muestran ninguna dinámica de corrección, eso me indica que se escribió un guión y luego se le pidió a una IA que lo leyera, pues un humano cuando habla hace pausas inesperadas, se equivoca, tartamudea, tiene que repetir, se le olvidan cosas, etc.”, señaló. 

Para nuestro explicador anterior, “Posibles audios creados por IA llegan a las elecciones regionales, ¿qué tan factible es identificarlos?”, este experto nos detalló que los audios creados con IA o ‘deepfakes’ de audio se pueden generar a partir de grabaciones breves de una persona, incluso de un solo minuto, y el resultado se obtiene de forma sencilla y rápida con herramientas gratuitas o pagas en internet. 

Ante este tipo de contenido, en nuestro artículo “Posibles audios creados por IA llegan a las elecciones regionales, ¿qué tan factible es identificarlos?”, recomendamos hacerse preguntas relacionadas con el contexto:

• ¿Lo que la persona dice va acorde con lo que sabes de ella?
• ¿A quién le conviene este audio?
• ¿Por qué me llega este audio?
• ¿Esto lo tendrá algún medio? 
• ¿Lo habrá verificado alguien?

Páginas web engañosas

En las publicaciones también aparecen unos enlaces que presuntamente llevan a la página de El Tiempo, pero al dar clic, aparecen otras páginas web diferentes a las del medio de comunicación con el dominio viddigna.com y colombianfin.com. 

En la web aparece información sobre cómo invertir en Colombia en inglés, pero ningún detalle sobre el supuesto proyecto de ley del que hablaban los videos. Tampoco ofrecía algún formulario para dejar datos. 

Analizamos los enlaces adjuntos con la herramienta Virus Total, un antivirus online, y en ambos casos señaló que estaban limpios (1, 2). 

En conclusión, calificamos de falsos los videos que circulan de Caracol Noticias y una presunta ley de inversiones aprobadas en el país. Se trata de un contenido manipulado, que usa voces clonadas creadas posiblemente con inteligencia artificial, para invitar en un proyecto de inversión falso.