Qué son los deepfakes y por qué deberíamos empezar a temerles

Los deepfakes son una nueva aplicación de inteligencia artificial y aprendizaje automático capaz de difuminar los límites entre lo verdadero y lo falso.

• La nueva frontera de los bulos, de las fake news, son los deepfakes
• La inteligencia artificial corre el riesgo de dar lugar a leyendas urbanas difíciles de socavar
• Algunas soluciones para defenderse de esta deriva de información

“¿Cuál es la percepción de la realidad?¿Es la capacidad de capturar, procesar y dar sentido a lo que reciben nuestros sentidos?Si puedes oír, ver, tocar u oler algo, ¿eso lo hace real?Esto se preguntó en un vídeo publicado en Youtube el año pasado. Morgan Freeman, una de las estrellas más famosas y con más años de servicio en Hollywood.Excepto que, al final del clip, el propio Morgan Freeman declaró que él no era Morgan Freeman:lo que acababan de recibir nuestros sentidos como espectadores era un deepfake, es decir, una nueva aplicación de la inteligencia artificial y aprendizaje automático capaz de difuminar los límites entre lo verdadero y lo falso.

¿Qué se entiende por deepfake?

El término colonizó rápidamente los medios de comunicación y gran parte del nuevo imaginario común, pero ¿qué ¿Qué son realmente los deepfakes??Para empezar, cabe señalar que, aunque el mundo empezó a hablar de ello en los años que rodearon la pandemia de Covid-19, los deepfakes ya existían y avanzaban desde hacía casi una década:En 2014, Ian Goodfellow, exjefe de la división de inteligencia artificial de Apple, publicó un artículo científico que introduce el concepto de "red generativa adversarial" (o Gan, acrónimo de Generative adversarial network), una aplicación particular de aprendizaje automático en el que dos redes neuronales se "desafían" entre sí en un juego de suma cero que les permite aprender a generar nuevas imágenesPartiendo de un conjunto de datos existente.Y en 2017, investigadores de la multinacional de tarjetas gráficas Nvidia refuerzan y hacen más creíbles los resultados de las redes Gan.

Este es el nacimiento del deepfake:sitios como estapersonanoexiste.com ponen a disposición del público en general herramientas de falsificación baratas que no tienen precedentes en la historia de la humanidad, y por primera vez el mundo se da cuenta de que nuestra relación con la realidad pende de un hilo.“Profundo” porque las redes neuronales de estas herramientas de generación se componen de diferentes capas:es el aprendizaje profundo, esa forma de inteligencia artificial lo que nos permite replicar los rasgos y voces de personas reales;“falso” porque, bueno, no hacen falta explicaciones.

En noviembre de 2017, un usuario anónimo publicó en Reddit un algoritmo capaz de producir vídeos falsos pero realistas:el código termina en el popular sitio para compartir códigos GitHub, donde está disponible para cualquiera de forma gratuita.Y desde entonces El deepfake se abre paso en la primera gran industria en el que saltará a la fama:pornografía.Aplicaciones como FakeApp permiten a cualquiera insertar la cara de otra persona en vídeos comprometedores que a primera vista parecen realistas, generando infinidad de riesgos y mucha misoginia:Scarlett Johansson, a pesar de ser una de las protagonistas más frecuentes de vídeos pornográficos falsos difundidos por los cuatro rincones de Internet, dirá que luchar contra ellos es "una causa perdida", dado que "Internet es un agujero negro oscuro que se alimenta de sí mismo". ".

¿Cuáles son los deepfakes más famosos?

Desde sus primeros pasos, el "deep fake" ha recorrido un largo camino, y algunas de sus encarnaciones han llevado a la opinión pública a cuestionar las ventajas y riesgos que trae consigo esta nueva tecnología:Además del ya mencionado vídeo deepfake de Morgan Freeman, obra de los holandeses Bob de Jong y Boet Schouwink, al menos el rendición falsa del presidente ucraniano Volodymr Zelensky, difundido por Rusia el año pasado, y el deepfake del actor Tom Crucero que se volvió furor en Tiktok, creado por el experto en efectos especiales Chris Ume y Miles Fisher a partir de cientos de miles de fotos y videos de la estrella de Hollywood.

El deepfake también ha aparecido en televisión, ampliando aún más el público expuesto a sus hechizos:En el extranjero, el programa satírico Saturday Night Live emitió un deepfake de Hillary Clinton entre lágrimas, completamente indistinguible de un vídeo genuino, mientras que en Italia Striscia la Notizia hizo lo mismo con un vídeo generado algorítmicamente del ex primer ministro Matteo Renzi.En 2018, el periódico online Buzzfeed hizo circular un vídeo falso pero real de Barack Obama, que solo al final reveló que era interpretado por el actor Jordan Peele.

Los riesgos de los deepfakes

Un gran poder conlleva una gran responsabilidad, dijo un conocido superhéroe de cómic, y lo mismo se aplica a las incógnitas que se vislumbran en el horizonte de los deepfakes.¿Qué sucede cuando miles, y potencialmente incluso millones, de personas creen en un vídeo falso de un líder político que anuncia una guerra nuclear?Y antes de eso:¿Qué será de lo nuestro? relación con la realidad, ¿Ahora que lo que vemos y oímos ya no es "verdad" por definición?

Incluso en nuestras latitudes, en el momento del deepfake de Matteo Renzi en Striscia la Notizia, muchos observadores señalaron que la presentación un tanto ambigua del contenido en horario de máxima audiencia podría dar lugar a malentendidos con graves consecuencias:Cableado lo tenía definido “un desafío más para el periodismo y para la opinión pública en su conjunto”.

Pero en el extranjero, como suele suceder, el debate sobre los deepfakes está mucho más avanzado que lo que aparece en las portadas en Italia:el año pasado por primera vez campaña masiva de vídeos que mostraban a actores de televisión falsos, inusualmente pro-chinos, inundaron Facebook y Twitter de habla inglesa, abriendo un nuevo y preocupante frente de laguerra de información geopolítico.

¿Quién nos salvará de la invasión de las ultrafalsificaciones?

Ciertamente no los lees, al menos por ahora:el único estado que ha pasado medidas urgentes intentar frenar el fenómeno es la Porcelana, que a principios de este año hizo obligatorio obtener el consentimiento de la persona "falsificada" y mostrar signos distintivos, como marcas de agua, que atestiguan el carácter falso de la obra.Pero el dragón también tiene los mismos problemas que el resto del mundo:¿Cómo podemos detener un fenómeno cuyos abusadores más feroces a menudo operan de forma anónima, en plataformas fluidas donde el contenido se multiplica tan rápidamente que pueden actuar casi sin ser molestados?

Algo, al menos, está empezando a moverse también en la vieja Europa: Ley de inteligencia artificial, recién aprobado por el Parlamento de la UE, tiene como objetivo imponer un nuevo estándar internacional para la regulación y transparencia de las aplicaciones de inteligencia artificial.Pero muchas partes de su texto son objeto de debate y dudas jurídicas:Es difícil definir el alcance de lo que se puede denominar "inteligencia artificial", y mucho menos lo difícil que puede ser regularla.De momento, en definitiva, esas fotos y vídeos de personas que no existen están destinados a hacer buen y mal tiempo:y nosotros, como en aquel gran clásico de San Remo, ya no vemos la realidad.

Cómo reconocer un deepfake

Ante todos estos riesgos, sólo queda comprender como defenderte de deepfakes:lo cual no es nada sencillo, y lo será cada vez menos, con el avance exponencial de éstos (en el último Photoshop, Adobe presentó una función generativa capaz de crear fotomontajes casi indistinguibles de la realidad).

En el momento de escribir este artículo, las principales inteligencias artificiales todavía tienen algunos problemas con la entrega de las manos de los seres humanos:Si ves una terminación de miembro superior que tiene algo extraño, no descartes que pueda ser falsa.

el mit recomienda, entre otras cosas, de presta atención a la piel de tu cara de los protagonistas de presuntos deepfakes:Si aparece demasiado apretado, o viceversa, demasiado arrugado o con diferentes grados de edad en diferentes partes del rostro, entonces hay muchas posibilidades de que esa imagen, o ese vídeo, no sea real.E incluso el parpadeo y el movimiento de los labios pueden dar buenos indicios en este sentido.