En días recientes se han viralizado imágenes casi idénticas a fotografías de figuras públicas en situaciones falsas. Son generadas por inteligencia artificial. Se trata de una supuesta foto del Papa Francisco con un abrigo de plumas blanco y largo, y una secuencia de la falsa captura o arresto de Donald Trump, a propósito de su acusación de pagarle a la actriz pornográfica Stormy Daniels 130.000 dólares a cambio de su silencio.

Además de estas, otras imágenes generadas con inteligencia artificial relacionadas con situaciones políticas actuales se han viralizado en redes sociales, como una supuesta imagen de Vladimir Putin arrodillado ante el líder chino Xi Jinping, que se hizo popular durante la visita de este último en Moscú. Y unas aparentes fotos del presidente francés Emmanuel Macron, participando como un protestante más en contra de su gobierno.

Esta popularidad de situaciones insólitas supuestamente captadas en fotografía se da justo cuando están en auge las creaciones de textos, imágenes y videos con inteligencia artificial. Algunas de estas publicaciones ya las hemos verificado en Colombiacheck en los chequeos “Imagen de falso gato serpiente que circula en redes fue creada con inteligencia artificial” y “Circulan en Facebook videos con personajes creados con Inteligencia Artificial para promocionar a un médico para la diabetes”.

Por ello, en este explicador analizamos algunas de las publicaciones más virales creadas con inteligencia artificial y le brindamos claves para poder identificarlas.

¿Son reales las fotos del abrigo del Papa y el arresto de Trump?

Una imagen del Papa Francisco con un abrigo blanco acolchado se ha difundido cientos de veces en redes sociales en la última semana. La imagen se ha viralizado en Facebook (1, 2), Instagram, Twitter y TikTok. 

“¡Y la que catolice!   La imagen que está circulando por las redes sociales muestra al Papa vistiendo un abrigo largo y grueso. Pero eso sí, mantiene el color característico de todo Papa de la Iglesia Católica, el blanco, el cual hace juego perfectamente con el solideo episcopal característico de los sacerdotes, y para rematar, con la cruz de planta que le cuelga del cuello” (sic), dice una publicación en Facebook compartida por la página ‘VOM Noticias’, que se identifica en esa red social como un medio de comunicación.

En los comentarios a la publicación se ven respuestas como: “Nuestro señor jesucristo siempre nos enseñó humildad...y esto gente es pura vanidad, soy creyente pero no comparto las galantería que se dan estos personajes...lo tenía que decir y lo he dicho” (sic), “El papá siente frío, calor, alegría, tristezas etc. etc. Cómo todos nosotros Dios lo Bendiga” (sic) y “Con ese abrigo. A cuánta gente se le daría de comer” (sic).

Las imágenes de redes han ganado amplia notoriedad en pocos días, como se ve en esta publicación de Twitter del 25 de marzo de 2023 que tiene 20 millones de reproducciones, acumula más de 22.000 retuits y 229.000 ‘me gusta’ en la red social. 

La imagen ha hecho que medios locales como Q’Hubo reporten la noticia como cierta. A través de la herramienta de análisis de redes sociales CrowdTangle hemos encontrado que en los últimos siete días se han compartido más de 300 publicaciones con las palabras “Papa” y “abrigo”. En total han recibido más de 43.000 reacciones.

Sin embargo, como ya lo han advertido los colegas de Chequeado, en Argentina, y Maldita, en España, esta imagen, que parece una auténtica fotografía del Papa Francisco con un atuendo inusual, fue generada por Inteligencia Artificial (IA) a través de una aplicación llamada Midjourney, que permite la creación de imágenes a partir de comandos de texto. 

Para verificarlo realizamos una búsqueda inversa de la imagen con Google y en las últimas páginas de resultados encontramos la publicación original en un subforo en Reddit, una página de internet en donde se pueden crear foros de distintos temas y discutirlos. En este foro, cuya dirección es “r/midjourney”, los participantes publican imágenes generadas por IA de su autoría. 

La publicación “The Pope Drip”, traducido como ‘El atuendo del Papa’, (drip es una palabra que se utiliza como jerga en inglés para ‘atuendo’) fue subida a la página por primera vez el viernes 24 de marzo a las 2:33 p.m.

Como ya han advertido algunos verificadores, estas imágenes no son perfectas y muestran detalles imperfectos que permiten identificar que son generadas a partir de un programa de IA. En una guía que publicó la AFP para identificar imágenes generadas por inteligencia artificial, el experto en el tema e ingeniero del Instituto Austriaco de Tecnología, David Fissinger, señaló que cuando se crea una imagen en un programa: “No hay una sola imagen desde la cual se tomen algunas partes. Existen miles o millones de fotos que son usadas para aprender billones de parámetros”.

En el caso de la imagen del Papa, hay por lo menos tres detalles o elementos que permiten identificar que no es real. Primero, la forma de las gafas no está definida sino que su marco se ve corrido, la mano derecha sostiene un vaso que reemplaza los dedos de las manos y la oreja se ve difuminada. 

Así se ven los elementos cuando se amplifica la imagen:

Midjourney genera varias opciones de imagen con una sola orden del usuario. En el caso del Papa, el usuario publicó un conjunto de cuatro opciones generadas por el programa. Estas son las otras tres, en las que el fondo cambia a un tono oscuro y la iluminación del Papa es parecida a la de un reflector, como en las pasarelas de moda:

Otro caso de imágenes virales generadas por programas de inteligencia artificial es la serie de fotografías que se conocieron sobre el supuesto arresto del expresidente Donald Trump, que se han viralizado, como en el caso anterior, en Facebook, Twitter (1, 2, 3, 4), Instagram y TikTok.

“ÚLTIMA HORA: Donald Trump acaba de ser arrestado por la policía de Nueva York”, dice una publicación en Twitter con más de 2.000 retuits y 39.700 ‘me gusta’ en la red social.

La búsqueda inversa de una de estas fotografías nos llevó a un artículo de los colegas de Newtral, quienes pudieron identificar que estas imágenes fueron generadas por un programa de inteligencia artificial. Allí se explica que esta serie de supuestas fotografías fueron generadas por Eliot Higgins, periodista y fundador de Bellingcat, un colectivo de periodismo de investigación de datos abiertos.

“Haciendo fotografías de Trump siendo arrestado mientras espero por el arresto de Trump”, publicó Higgins el 21 de marzo a las 9:50 a.m. Su trino tuvo más de 6 millones de reproducciones, 5200 retuits y 39.000 ‘me gusta’ en esa red social.

 

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

En su trino, en el que Higgins hizo públicas sus generaciones de IA, existe un hilo de más de 20 fotos sobre la captura, el juicio y el encarcelamiento del expresidente de los Estados Unidos, todas ellas imaginadas por un programa de IA.

Ahora bien, así como en la fotografía del Papa, en el hilo de imágenes se identifican detalles que sugieren que fueron creadas por inteligencia artificial. En general, los rasgos de los rostros y las manos se ven irreales, borrosos o se ubican en lugares en donde normalmente no estarían.

Por ejemplo, en esta foto de Trump se pueden ver rostros sin rasgos, como ojos, nariz y boca, y una figura como de dedos de las manos cerca a la cabeza de Trump, donde debería estar su otro brazo.

Así se ven, ampliados, algunos de los detalles que están señalados en la imagen:

Solo dos días después el propio Trump publicó en su red social Truth Social, que emula el funcionamiento de Twitter, una imagen de él mismo orando apoyado en una rodilla generada por inteligencia artificial.

¿Qué desinformaciones creadas con IA hemos verificado?

Recientemente escribimos el chequeo ‘Imagen de falso gato serpiente que circula en redes fue creada con inteligencia artificial’ en el que explicamos que una imagen de un supuesto “gato serpiente” no era una especie nativa de Latinoamérica sino otra generación de inteligencia artificial. Su realismo nos llevó a recurrir a expertos para que explicaran porque dicha especie no existía debido a que mamíferos y reptiles estaban separados en la cadena evolutiva desde hace millones de años.

También hemos descubierto en las investigaciones de nuestros artículos “Circulan en Facebook videos con personajes creados con Inteligencia Artificial para promocionar a un médico para la diabetes” y “Tenga cuidado con los falsos préstamos aprobados de BBVA que circulan en Facebook” campañas publicitarias enteras pagadas en Facebook e Instagram con videos que emplean avatares hechos con IA para mentirle a la gente con ofertas de créditos bancarios o médicos milagrosos contra la diabetes, y en las cuales confirmamos que se trataban de personajes falsos porque encontramos, mediante búsqueda inversa, las páginas web que vendían esos avatares.

¿Cómo se generan imágenes con inteligencia artificial?

Las aplicaciones como Dall- E 2 y Midjourney permiten crear fotografías con todas las especificaciones que uno le indique. El primero es un servicio gratuito que genera imágenes en su portal web a partir de una indicación particular. El segundo con un ‘bot’ o robot de la aplicación de mensajería y chat de voz ‘Discord’, el cual obedece comandos de creación de imágenes y permite modificarlas con acciones posteriores.

Para Midjourney hicimos algunas pruebas de generación de imagen. Estos son los resultados para los comandos: “Vladimir Putin rezando en público foto realista”, “El nobel de paz Juan Manuel Santos visita al ex presidente Donald Trump” y “Gustavo Petro entre la gente”

En las generaciones hay mayor similitud con las figuras de Putin o Trump, de quienes existe mayor información de la cual el bot recibe para generar imágenes. Pero los rostros de Santos o Petro no son fieles a los reales. En todo caso, Midjourney permite que el usuario suba fotografías de las cuales pueda aprender para generar imágenes. Después de entregarle varias fotografías del presidente Gustavo Petro, y variar los resultados, obtuvimos la siguiente imagen:

En cuanto a videos, se pueden comprar avatares ya creados en páginas como Synthesia e IAEmpresas, que en el pasado hemos chequeado (1, 2), y se puede seleccionar el idioma, tono y expresión que se desee para presentaciones de ventas, informativas, y mucho más.

¿Qué es la inteligencia artificial?

El Banco Interamericano de Desarrollo (BID) plantea que la inteligencia artificial está presente en aquellos sistemas informativos capaces de “detectar su entorno, pensar, aprender y tomar decisiones en función de las entradas que reciben y sus objetivos”.

“Por medio de la inteligencia artificial, las máquinas pueden aprender experiencias, adaptarse y tener conductas similares a las que tendría un ser humano, a través de la capacidad de procesamiento ilimitada y el crecimiento de macrodatos para alimentar los sistemas”, agrega.

El portal Data Scientest aclara, no obstante, que la descripción de una “máquina inteligente” no explica realmente lo que es la inteligencia artificial, por ello, cita a Stuart Russell y Peter Norvig quienes propusieron que “la IA es el estudio de los agentes que reciben percepciones del entorno y realizan acciones”.

Alejandro Lozada, físico, periodista de datos y magíster en Sistemas Complejos Adaptativos (matemáticas detrás de la IA), explicó para Colombiacheck que en términos sencillos la IA se trata en incluir ciertos rasgos de la inteligencia humana en máquinas, tales como reconocer caras, tener memoria, etc. pero con la particularidad de ejecutar acciones.

“Inteligencia artificial puede ser un asistente virtual como Siri. Uno le puede preguntar a Siri cómo está el día y el programa entiende lo que uno quiso preguntarle y da una respuesta”, describió.

Señaló que, aunque desde hace décadas se tienen las bases científicas de la inteligencia artificial, evidentemente en los últimos meses ha habido una mayor atención hacia este tema debido a la aparición de ChatGPT, enfocado en entender textos y generar respuestas, el cual hizo accesible y amigable interactuar con este tipo de tecnologías.

“Antes había que entender ciertas matemáticas, tener cierto nivel técnico para usar estos modelos, pero ahora para utilizarlos solo basta con escribir lo que se quiere y listo”, reconoció Lozada.

El especialista subrayó que dentro del campo del IA existen dos tipos, la general, comparada con la del ser humano y que puede hacer muchas cosas a la vez como emplear lenguaje, razonar, reconocer objetos; y está la específica, dirigida a cumplir con tareas particulares y que es la única que tenemos hasta ahora.

¿Cuáles son los riesgos del uso de IA?

Lozada sostuvo que una de las mayores preocupaciones con la facilidad de manejo de la IA es que precisamente se puede emplear para generar imágenes, videos o audios para engañar y desinformar, como ya está ocurriendo.

“Con Photoshop, por ejemplo, se podían hacer imágenes muy realistas que fueran falsas, pero se requería cierta experticia. Ahora hacer una imagen muy fotorrealista y que mucha gente se la crea no requiere mucha experticia y es relativamente rápido con inteligencia artificial”, advirtió.

Se debe recordar además que desde hace varios años han circulado los llamados “deepfakes” (videos manipulados con IA), tales fueron los casos del falso discurso de Obama creado por investigadores de la Universidad de Washington en 2017, o en el último año, el video del presidente de Ucrania, Volodímir Zelenski, pidiéndole a sus tropas que se rindieran durante los primeros días de la invasión rusa.

El investigador Alejandro Lozada resaltó que incluso se le puede pedir a la IA que redacte una noticia falsa con un estilo y contenido específico y que la acompañe con fotos o video y obtendremos un resultado bastante creíble.

Por su parte, el especialista en Procesamiento del Lenguaje Natural y Recuperación de Información, Julio Gonzalo, en entrevista con nuestros aliados de Maldita.es, sostuvo que un punto muy alarmante de la masificación del uso de la IA es instaurar en la población un estado de desconfianza general frente a todo lo que circula en redes sociales. “Me preocupa el peligro de que se acabe dudando de cualquier imagen y, por ejemplo, un gobierno pueda desdeñar imágenes atroces de la acción de su ejército en una guerra alegando que son fáciles de simular usando una IA”, indicó.

Lozada también coincidió y recalcó que con la inteligencia artificial “ahora ni siquiera un vídeo es prueba de nada, una foto, un audio, un texto bien escrito, por lo que ahora toca establecer relaciones mucho más cercanas con los medios y con los periodistas, cuyo trabajo deberá ser más riguroso”.

¿Cómo detectar una imagen o video con IA?

En caso de imágenes:

1. Búsqueda inversa. Un paso muy sencillo es utilizar la herramienta de Google Lens para indagar si esa misma imagen ha sido usada en otras ocasiones o aparece verificada como falsa por algún medio de comunicación. Para aprender a usar esta herramienta, ingrese aquí.

2. Detallar las manos. Lozada señaló que los modelos generativos de IA tienen dificultades para reproducir manos realistas y no les quedan bien o tienden a colocar más o menos dedos.

3. Elementos como sombras: también invitó a observar detalles como sombras que se contradigan, por ejemplo, si el sol está de un lado, lo más lógico es que las sombras vayan en consonancia, pero una imagen creada con IA puede tener sombras inconsistentes.

4. El fondo de la imagen: también una pista es evaluar el fondo: si está borroso, con una textura extraña o con elementos distorsionados.

5. Marcas de agua. El portal Maldita.es sugiere prestar atención a posibles marcas de agua en las imágenes ya que aplicaciones como DALL-E-2 dejan cinco cuadrados de distintos colores en la esquina inferior derecha en las imágenes descargadas.

6. Analizar detalles faciales. El mismo medio de comunicación aconseja observar con detenimiento si las orejas están a diferentes alturas, con tamaños desproporcionados o texturas raras; así como también detallar los dientes (si hay demasiadas piezas dentales, están encogidas, estiradas o desalineadas) y el cabello (puede estar difuminado con el entorno, demasiado recto o puede haber pelos pegados a la forma de la ceja).

7. App para detectar imágenes con IA: también puede recurrir a la plataforma web Mayachitra donde podrá corroborar si una imagen es real o artificial, principalmente si procede de la página This Person Doesn’t Exist, un generador facial.

En caso de videos:

Además de los consejos anteriores, para los audiovisuales puede tener en cuenta las siguientes recomendaciones de los aliados de EsPaja.com:

1. Coordinación imperfecta entre labios y voces: ya que, por su complejidad, la inteligencia artificial aún no logra hacerlo del todo bien.

2. Imperfecciones o saltos en las secuencias de las imágenes: lo cual se puede percibir cuando se coloca el video en cámara lenta, una función disponible en Youtube.

3. Inconsistencia en el contexto: por ejemplo, preste atención a los accesorios, decorado, iluminación, detalles secundarios, etc. del entorno del personaje.