Falso Falso Falso Falso Falso Falso Falso Falso
Falso
Usted seguramente lo ha visto en redes o le ha llegado a su whatsapp: desde hace algunas semanas viene circulando un video de un pequeño oso polar siendo rescatado por un grupo de hombres en una embarcación, en medio de un paisaje helado.
La cría se sostiene del barco y reacciona con tanta ternura que se ve incluso como si estuviera sonriendo, mientras de fondo se escucha una pieza músical que parece sacada de la película Titanic. Una vez adentro, al animal se le ve abrazando a los humanos que lo sostienen, en un comportamiento alejado de las conductas normales de su especie, conocida por ser peligrosos depredadores.
El contenido ha circulado ampliamente en diferentes redes sociales, en Colombia y en otros países del mundo. El Tiktok, por ejemplo, basta con hacer una búsqueda simple para evidenciar que el contenido (y otros muy similares), ha sido replicado en publicaciones que han tenido una circulación importante, llegando incluso a los dos millones de visualizaciones.
En plataformas de Meta, el video también ha sido viral. Solo por mencionar algunas publicaciones, en Facebook ha sido compartido por cuentas como AmaArrecifes, una página de noticias con 19 mil me gusta, o Navegantes de Argentina, con 780 mil seguidores, y cuya publicación al respecto logró más de 4.000 likes. En Instagram, por ejemplo, lo han publicado cuentas como momentun.us (94 mil seguidores), cuyo post obtuvo hasta el momento 1.390 likes. En Threads, incluso, encontramos una publicación de la cuenta quiero_tv (42 mil seguidores), con más de 5 mil likes.
En X (antes Twitter), el material también ha tenido circulación, aunque algunos contenidos originales han sido eliminados. Siguen al aire algunos trinos de usuarios como @callejon_114 (51 mil seguidores), @dutchdigge58644 (15 mil seguidores), @beinpositive (77 mil seguidores), que dan por hecho que el animal fue rescatado y que “ahora tiene una segunda oportunidad en la vida”.
En Colombia, la usuaria de X @dona_pily2 (80 mil seguidores), reposteó el video publicado por otra cuenta, que ya no está disponible, y su trino alcanzó 13,6 mil visualizaciones. En la publicación, esta tuitera escribió “un abrazo de estos”, resaltando la actitud enternecedora del oso.
Ninguna de las publicaciones que mencionamos, sin embargo, dejó claro que este contenido fue generado por Inteligencia Artificial, por el contrario, omitieron informar sobre su procedencia o dieron por hecho que se trataba de algo real. Tras ver la amplia circulación que ha tenido y lo difícil que es detectarlo a simple vista, en El Colombiano hicimos un chequeo de este video viral, que resultó ser falso. Aquí les contaremos cómo llegamos a esa conclusión.
Aunque es cada vez son más difíciles de identificar, en los videos realizados por inteligencia artificial es posible detectar detalles extraños que, por lo menos, despiertan suspicacias. En este caso, la textura antinatural del pelaje del oso, la manera en la que se sostiene del barco (como si flotara) y el cuerpo con tres patas en un solo lado (1 y 2 en la imagen) dan pistas de que se trata de algo falso, así como los ojos y manos de los humanos que tienen movimientos poco naturales y en algunos casos parecen tener menos dedos (3).
Además, también deja dudas la actitud del osezno: se comporta como si fuera una mascota o un animal domesticado, a pesar de que es sabido, como recoge NatGeo España, que los osos polares son depredadores altamente peligrosos para los humanos.
Para cerciorarnos de que el video fue generado por inteligencia artificial, pasamos el material por la revisión de dos herramientas que detectan deepfakes: TrueMedia.org y Hive (una empresa de IA).
La primera nos indicó que el video que le entregamos fue posiblemente manipulado con inteligencia artificial, con una probabilidad del 84%. En la segunda, el veredicto fue que el video fue posiblemente generado con IA, con una probabilidad mayor al 96%. Es importante mencionar que estos detectores no dan una certeza del 100% sino que arrojan probabilidades con base en sus análisis.
Como puede verse en el material que comparten los trinos que citamos, el video tiene una marca de agua que da crédito a su creador: @mysticwild, una cuenta de Tiktok que crea y comparte videos generados por inteligencia artificial, como lo dice en su biografía, especialmente de situaciones entre humanos y animales. De hecho, el creador etiqueta sus publicaciones como generadas por IA y entre ellas hay varios “rescates” ficticios, como el que analizamos en este artículo.
La cuenta tiene anclado el video en cuestión, publicado originalmente el 9 de noviembre de 2024, que alcanza hasta ahora una impresionante cifra de 129 millones de visualizaciones. Tras el éxito de ese contenido, la cuenta incluso publicó una segunda parte de la historia, ficticia también, en la que muestran cómo la cría vuelve a su madre ayudada por los humanos, en un video que también fue generado por inteligencia artificial y que cuenta, hasta el momento, con más de 14 millones de visualizaciones.
Primero que todo, vale que hagamos claridad sobre qué es un deepfake. Como nos explicó Isabel Manjarrez, Investigadora de seguridad del Equipo Global de Investigación y Análisis de Kaspersky (empresa de ciberseguridad), para entenderlo hay que separar la palabra en dos términos. El primero de ellos es Deep (profundo en inglés), que viene del deep learning o aprendizaje profundo, una técnica avanzada de machine learning que reconoce patrones complejos en los datos, para realizar tareas sofisticadas. El segundo término es Fake, que en inglés significa Falso.
Los deepfakes, entonces, son contenidos multimedia “ultrafalsos”, con apariencia extremadamente realista, ya sea en formatos de video, imagen o audio. Según la experta, son cosas que difícilmente podemos reconocer como falsas o distinguir de la vida real.
Manjarrez dice que este tipo de contenidos se crean con algo llamado Red neuronal profunda. En términos sencillos, la experta explica que se trata de “una inteligencia artificial contra otra inteligencia artificial”: una crea el contenido falso y la otra lo identifica, y ambas aprenden mutuamente para crear contenidos cada vez más realistas y, a su vez, detectar contenidos falsos cada vez más difíciles de reconocer.
Es clave saber que, como todas las creaciones tecnológicas, los deepfakes tienen usos benignos y usos malintencionados. Se pueden ver en creaciones artísticas o en sectores como el mercadeo, la comunicación o la educación; pero también en manipulación de la opinión pública, desinformación y delitos como estafas, suplantaciones, fraudes o extorsiones.
Así las cosas, con contenidos cada vez más difíciles de identificar como falsos, ¿cómo estar atentos y evitar difundir publicaciones falsas o manipuladas? En la actualidad, este tipo de tecnologías han avanzado tanto que es supremamente difícil identificar a simple vista un contenido multimedia creado por inteligencia artificial. Así lo explica Daniel Molina, vicepresidente para América Latina de iProov, una compañía que provee servicios de seguridad para identificar posibles fraudes en biometría digital.
“Hace un año te podía decir que las manos, por ejemplo, te daría un falsos positivo en el que podrías identificar algo creado con IA, pero ya no es fácil, estamos viendo que ya no hay pistas”, dice el experto.
En este panorama, según Molina, la clave está en apelar al sentido común y hacerse preguntas. “¿Es verdad, es confiable? Si a mí me llega algo, antes de replicarlo, preguntarme quién gana si yo comparto esto. A veces nos dejamos llevar por la imagen de lo que vemos o el encabezado, sin pensar si es o no verdad, eso requiere sentido común”.
Como lo mencionamos hace algunos párrafos, esta tecnología se basa también en aprender de su contraparte: las herramientas que pueden identificar los contenidos deepfake. Así que una ayuda quizás más avanzada puede ser recurrir a aplicativos como los que citamos en este artículo (Truemedia.org y Hive) para averiguar si un contenido es creado con inteligencia artificial.
El video del osezno polar siendo rescatado por humanos (y sus derivados) es falso y no corresponde con la realidad: se trata de una creación digital generada por inteligencia artificial. Como lo pudieron leer en los párrafos anteriores, a este resultado llegamos tras observar el video detenidamente y encontrar inconsistencias en la imagen del oso y de los humanos, analizar el material con la ayuda de herramientas de inteligencia artificial creadas para detectar contenidos creados por IA, y rastrear el origen del material audiovisual hasta una cuenta de Tiktok que etiqueta sus propios videos como contenidos generados por IA.