3 DATOS CLAVE:

1. En redes difundieron fotos creadas con inteligencia artificial de la exalcaldesa Claudia López abrazada con el presidente, Gustavo Petro, y el expresidente Juan Manuel Santos. Las imágenes estaban acompañadas del mensaje: “Claudia es Petro”.
   Las fotos fueron creadas con Grok, la IA de X (antes Twitter).
   
   
2. Las fotos fueron creadas con Grok, la IA de X (antes Twitter).
   
3. Esta herramienta no tiene restricciones efectivas y está siendo usada para crear imágenes racistas contra futbolistas, violentas, vejatorias y sexualizadas de figuras políticas y mujeres famosas.

Dos imágenes creadas con inteligencia artificial (IA) en las que aparece Claudia López, exalcaldesa de Bogotá y posible precandidata a la Presidencia, abrazada con el exmandatario Juan Manuel Santos y con el actual jefe de Estado, Gustavo Petro, son difundidas en redes sociales con el mensaje “Claudia es Petro”.  

La tendencia ‘Claudia es Petro’

En Colombiacheck encontramos que una de las imágenes fue compartida el pasado 14 de diciembre en X por la usuaria Mónica Saade (@pelinegra0818), quien tiene 38.800 seguidores. La imagen recortada estaba acompañada del texto: “Hoy más que nunca reconfirmo que el PetroSantismo existe. Y Recuerden, Claudia es Petro” (sic).

Al día siguiente, el 15 de diciembre, fue publicada la misma imagen en el grupo de Facebook Memes 100% Antipetristas. 

Y el 17 de diciembre pasado, en X publicaron la segunda imagen con el mensaje: “J CLAUDIA es Petro. ”

Recientemente en X han circulado varias publicaciones con la frase “Claudia es Petro”.

Fotos creadas con Grok, la IA de X.

En las publicaciones de Facebook y X que compartieron la primera foto, le quitaron la parte que tenía la marca de agua de Grok. En esta segunda foto, sí la tiene.

Al realizar una búsqueda inversa de imágenes con Google Lens de la primera foto, encontramos que nuestros colegas de La Silla Vacía la habían verificado. En su nota indicaron que en WhatsApp también circula, aunque visualmente invertida. Se trata de una captura de pantalla de una historia compartida en Instagram. En el texto dicen que se trata de una reunión de “anoche”.

En este caso, la foto sí conserva la marca de agua de Grok.

Aparte de esto, en Colombiacheck subimos la imagen a la herramienta Truemedia, que permite establecer las probabilidades que haya sido creada con inteligencia artificial. La conclusión es que tiene una alta probabilidad.

“La imagen parece tener ciertas características que sugieren manipulación digital. Esto incluye proporciones y expresiones faciales poco naturales que pueden indicar el uso de herramientas de edición o generación de imágenes con inteligencia artificial. La iluminación y la combinación de colores también pueden parecer inconsistentes, lo que suele ser un signo de imágenes alteradas. Estos indicadores llevan a la conclusión de que es probable que la imagen sea falsa o manipulada”, es la conclusión de la herramienta.

Truemedia también arrojó que la segunda imagen también tenía evidencia de haber sido creada con inteligencia artificial.

Grok, la IA de X

Nuestros colega de Maldita publicaron recientemente el explicador “Cómo Grok (la IA de Elon Musk en X) se está usando para crear imágenes racistas, xenófobas y asociadas al nazismo de deportistas famosos”, en el que relataron cómo esta herramienta, que no tiene restricciones, está siendo usada para crear imágenes racistas contra futbolistas, violentas, vejatorias y sexualizadas de figuras políticas y mujeres famosas. En su nota, explican:

“Como hemos comprobado en Maldita.es y vemos en las imágenes que comparten los usuarios, Grok permite crear estas imágenes con la cara de personas reales y famosas sin ningún tipo de censura ni limitación. El modelo no incluye restricciones contundentes para la creación de contenido violento, perturbador, sexualizado, racista o xenófobo (o es extremadamente fácil saltárselas y encontrar formas de llegar a ellas). Otros modelos de generación de imágenes con IA sí incluyen filtros para evitar usos indebidos”.

También indicaron que:

“El modelo de IA generativo de Grok, gratuito, con resultados hiperrealistas y sin restricciones, también da rienda suelta y aumenta las posibilidades de que se creen contenidos desinformadores o que, sacados de contexto y compartidos en esta red social y en otras plataformas digitales, puedan generar desinformación directamente sobre personas reales. En Maldita.es ya hemos visto cómo esto ha sucedido en otras situaciones, como las elecciones de Estados Unidos, el conflicto entre Israel y Palestina o catástrofes naturales, en las que los contenidos generados con IA se han utilizado para desinformar. El propio Elon Musk usa imágenes creadas con Grok para contribuir a campañas desinformadoras y amplificar y legitimar en X la desinformación y el discurso de odio”.

Precisamente, en algunas de las publicaciones de X que usaron la frase “Claudia es Petro” encontramos otras imágenes creadas con Grok, que tenían comentarios homófobos contra la exalcaldesa de Bogotá.