3 DATOS CLAVE:

1. Un trino con un fragmento de video de Noticias Caracol circula afirmando que las imágenes fueron manipuladas con IA para hacer ver a más personas.
2. La cobertura del noticiero duró varias horas y otros videos del canal muestran la Plaza de Bolívar con distinta cantidad de personas.
3. Aún no existe la capacidad tecnológica para hacer videos hiperrealistas tan complejos con IA.

Las calles de Colombia estuvieron movidas la primera semana de marzo de 2024. Además de la tradicional marcha por el Día Internacional de la Mujer, el miércoles 6 de marzo la oposición al gobierno Petro marchó en varias ciudades del país contra su gestión. 

Esta movilización se transformó en un nuevo pulso para medir el poder de convocatoria ciudadana que tienen estos sectores políticos, en parte, porque el propio presidente, en su cuenta de X, trinó sobre la supuesta manipulación de los medios para hacer ver a más personas en las calles de las que realmente marcharon ese día.

La cifra oficial de la Secretaría de Gobierno dice que en Bogotá salieron 15.000 personas aquel miércoles. Sin embargo, en redes sociales se polemizó sobre el número de personas que protestaron en la capital del país. 

Entre los mensajes que circularon en redes aparecieron varios en los que acusaban a Noticias Caracol de manipular las imágenes de la manifestación con inteligencia artificial. Una de estas cuentas en X, Feminismo electolero (@ClaodioloLopez), que divulga mensajes en contra de figuras de la oposición al gobierno Petro, trinó a las 3:17 p.m. un fragmento de diez segundos de la transmisión de Noticias Caracol sobre la jornada de marchas de ese día. El video estaba acompañado de una imagen de un trino de la senadora de Comunes Sandra Ramírez y el siguiente mensaje: 

La publicación tiene más de mil “me gusta” y ha sido compartida el mismo número de veces. Además, otras cuentas en X (1 y 2) y en Facebook (1, 2, 3 y 4) compartieron el mismo mensaje del trino, la foto de Sandra Ramírez o reforzaron la idea de que esa toma de Noticias Caracol había sido manipulada con IA para hacer ver a más personas. 

En Colcheck verificamos estas publicaciones y calificamos como falso que el video de Noticias Caracol haya sido manipulado por inteligencia artificial.  Al ubicar el video original encontramos que se trata de una transmisión en vivo de Noticias Caracol y aún no existe la tecnología para manipular de esa manera videos en directo con IA. Además, no identificamos que la imagen se vea congelada o que la plaza se vea oscura a pesar del sol.

El video muestra el momento de mayor concentración en la Plaza justo sobre el mediodía

El fragmento al que se le adjudica manipulación por IA es una grabación de pantalla de 11 segundos de un video publicado en X por Noticias Caracol el miércoles 6 de marzo a las 12:14 p.m.

El video original es un reportaje en vivo de la marcha de 2:53 minutos. Específicamente, los 11 segundos exactos de la grabación de pantalla ocurren entre el minuto 1:29 al 1:39, como evidencia el sonido comparado de ambos videos. Además, la grabación de pantalla muestra los segundos restantes del video (1:26), que corresponde con la duración total del video.

Durante los casi tres minutos que dura el reporte, la cámara hace varios acercamientos y alejamientos de la toma. Por ejemplo, en el segundo 54, el acercamiento permite ver con bastante detalle a muchos de los marchantes, uno de los cuales saluda directamente a la cámara.

La misma imagen también desacredita la falta de iluminación en el video, pues no solo se ve varias personas cubriéndose del sol con sombrillas, sino que también es posible ver claramente las sombras que proyecta el sol. 

Durante todo su cubrimiento en redes sociales, Noticias Caracol siempre registró la manifestación desde la misma altura y posición desde un lugar cerca de la esquina noroccidental de la plaza. Por ejemplo, uno de los primeros reportajes del noticiero, alrededor de las 11:17 de la mañana, muestra el mismo encuadre de la Plaza de Bolívar. Aunque se ve la tarima que habían preparado los organizadores de la marcha, las imágenes muestran que, para esa hora, la plaza seguía casi vacía.

Incluso, en uno de los últimos reportes de las marchas que hizo Noticias Caracol (a las 12:54p.m.) nuevamente repitiendo la toma, muestra que la plaza está ligeramente más vacía que en el reporte anterior. 

Diferentes horas y ángulos

El trino de Feminismo Electolero también compara la ocupación de la plaza durante el clip con una fotografía de la senadora Ramírez. Sin embargo, comparar ambos momentos es imposible porque, de acuerdo con la propia senadora, ella tomó esa foto a las 2:46p.m., mientras que la transmisión de Noticias Caracol se compartió a las 12:14p.m., más de dos horas y media antes. 

Finalmente está el asunto del ángulo desde el que transmite Noticias Caracol, pues a menor altura del piso, mayor será la percepción de densidad, como explica el doctor G. Keith Still, especialista en seguridad y análisis de riesgo de multitudes con más de 30 años de experiencia. 

Aunque no existe un método unívoco para calcular multitudes, en su página web, Keith Still muestra cómo una multitud con la misma cantidad de personas puede parecer más o menos densa según sea el ángulo desde el que se calcule. 

Keith Still también ha dicho, en diálogo con The Washington Post, que el límite mental y físico de seguridad son cinco personas por metro cuadrado. Por lo tanto, abarrotar completamente hasta el límite de lo seguro los 13.903 metros cuadrados de área aproximada que tiene la plaza tomaría unas 69.515 personas. 

No todo es culpa de la IA

Las publicaciones indican que el video fue manipulado por inteligencia artificial. Pero aunque, millones de personas utilizan esta tecnología en Instagram o TikTok pues, como explica Alejandro Lozada, “esas son ediciones hechas con IA sobre videos en vivo. Poner orejitas de perrito, por ejemplo. Ese es el estado del arte. Sería extremadamente difícil hacer algo hiperrealista en una aglomeración de personas”. 

Lozada es investigador de inteligencia artificial en el WASP (Wallenberg AI, Autonomous Systems and Software Program) de Suecia. Una de las tecnologías más avanzadas de generación de video con IA es Sora y, para Lozada, este modelo es prueba de que no es imposible pensar en videos hechos por IA. Pero “todavía no tienen el nivel para generar videos como el que se muestra. Especialmente de multitudes, donde tiene que resolver tantos detalles. Eventualmente, sin embargo, será posible.”

Sora es un nuevo modelo de generación de imágenes y video, desarrollado por la misma empresa que presentó a ChatGPT al mundo, OpenAI, con la capacidad de generar videos hiperrealistas a partir de indicaciones escritas. Sin embargo, por ahora Sora puede generar videos de máximo un minuto de duración y, de momento, solo está disponible para algunas personas.

Introducing Sora, our text-to-video model.

Sora can create videos of up to 60 seconds featuring highly detailed scenes, complex camera motion, and multiple characters with vibrant emotions. https://t.co/7j2JN27M3W

Prompt: “Beautiful, snowy… pic.twitter.com/ruTEWn87vf

— OpenAI (@OpenAI) February 15, 2024

También le preguntamos a Juan Vanegas, videógrafo y realizador audiovisual desde hace 15 años, si veía señales de algún tipo de manipulación en alguno de los videos. Vanegas dijo que “el video es real, no hay manipulación en la imagen”, tras revisar cuadro por cuadro el clip del trino desinformador y la transmisión original. 

Incluso, si se revisa en detalle el video cuestionado podemos ver el movimiento de algunas banderas y personas hacia el fondo, lo cual contradice la idea de que las personas parecen no moverse.

Efectos de la IA en la conversación digital

Pero que este tipo de tecnología no esté disponible aún no quiere decir que la IA no esté produciendo efectos en la conversación digital. “El riesgo no es tanto que puedan generar imágenes falsas que convenzan a muchas personas, sino que las imágenes reales la gente no las va a creer. Se van a desacreditar videos e imágenes reales diciendo ‘esto está hecho por inteligencia artificial’”, afirma Lozada. 

Un episodio reciente ejemplifica esta afirmación de Lozada. El 11 de marzo de 2024 la princesa de Gales, Kate Middleton, compartió una fotografía familiar que tenía evidentes incongruencias visuales. Inmediatamente, comenzó a circular la idea de que había sido generada con inteligencia artificial. 

Sin embargo, expertos en análisis de la imagen dijeron a la BBC que la imagen no necesariamente parece ser creada con IA, pero sí tiene errores evidentes, que pueden ocurrir, entre otros, por un mal uso de Photoshop para editar la imágen (esto no es IA). Para medios como Business Insider, esto demuestra que estamos en un punto de no retorno sobre desconfiar de todo lo que vemos en línea. 

Por todo lo anterior, en Colombiacheck calificamos como falso que la transmisión de Noticias Caracol haya sido manipulada por inteligencia artificial. Encontramos el video original, otro previo y otro posterior que muestran el cambio en el aforo de la Plaza de Bolívar durante ese día. Además, una revisión cuidadosa del video cuestionado sí muestra movimiento de personas y banderas. Además, la IA aún no tiene la capacidad tecnológica para alterar imágenes tan complejas en directo.