Que sont les deepfakes et pourquoi nous devrions commencer à les craindre

Les deepfakes sont une nouvelle application de l’intelligence artificielle et de l’apprentissage automatique capable de brouiller les frontières entre le vrai et le faux.

• La nouvelle frontière des canulars et des fausses nouvelles, ce sont les deepfakes
• L’intelligence artificielle risque de donner naissance à des légendes urbaines difficiles à ébranler
• Quelques solutions pour se défendre contre cette dérive informationnelle

« Quelle est la perception de la réalité ?Est-ce la capacité de capturer, de traiter et de donner un sens à ce que nos sens reçoivent ?Si vous pouvez entendre, voir, toucher ou sentir quelque chose, est-ce que cela le rend réel ? »Cela a été demandé dans une vidéo publiée sur Youtube l'année dernière Morgane Freeman, l'une des stars les plus anciennes et les plus célèbres d'Hollywood.Sauf que, à la fin du clip, Morgan Freeman lui-même a déclaré qu'il n'était pas Morgan Freeman :ce que nos sens de spectateurs venaient de recevoir était un deepfake, c'est-à-dire une nouvelle application de l'intelligence artificielle et apprentissage automatique capable de brouiller les frontières entre le vrai et le faux.

Qu’entend-on par deepfake ?

Le terme a rapidement colonisé les médias et une grande partie du nouvel imaginaire commun. que sont réellement les deepfakes?Pour commencer, il convient de noter que, même si le monde a commencé à en parler dans les années qui ont suivi la pandémie de Covid-19, les deepfakes existaient déjà et progressaient depuis près d’une décennie :en 2014, Ian Goodfellow, ancien chef de la division intelligence artificielle d'Apple, a publié un article scientifique qui introduit la notion de « réseau contradictoire génératif » (ou Gan, acronyme de Generative adversarial network), application particulière de apprentissage automatique dans lequel deux réseaux de neurones se « défient » dans un jeu à somme nulle qui leur permet d'apprendre à générer de nouvelles imagesje part d'un ensemble de données existant.Et en 2017, des chercheurs de la multinationale de cartes graphiques Nvidia renforcent et rendent plus crédibles les résultats des réseaux Gan.

C’est la naissance du deepfake :des sites comme cettepersonnedoesnotexist.com ils mettent à la disposition du grand public des outils de falsification bon marché et sans précédent dans l’histoire de l’humanité, et pour la première fois le monde se rend compte que notre rapport à la réalité ne tient qu’à un fil.« Profond » car les réseaux de neurones de ces outils de génération sont constitués de différentes couches :est le apprentissage profond, cette forme de intelligence artificielle ce qui nous permet de reproduire les caractéristiques et les voix de personnes réelles ;« faux » parce que, eh bien, il n’y a pas besoin d’explications.

En novembre 2017, un utilisateur anonyme a posté sur Reddit un algorithme capable de produire des vidéos fausses mais réalistes :le code se retrouve sur le site de partage de code populaire GitHub, où il est mis gratuitement à la disposition de tous.Et depuis le deepfake fait son entrée dans la première grande industrie dans lequel il se fera connaître :porno.Des applications comme FakeApp permettent à chacun d'insérer le visage de quelqu'un d'autre dans des vidéos compromettantes qui semblent réalistes à première vue, générant une infinité de risques et beaucoup de misogynie :Scarlett Johansson, bien qu'elle soit l'une des protagonistes les plus fréquentes des fausses vidéos pornographiques répandues aux quatre coins de l'Internet, dira que les combattre est "une cause perdue", étant donné que "Internet est un trou noir qui se nourrit de lui-même". ".

Quels sont les deepfakes les plus connus

Depuis ses débuts, le « deep fake » a parcouru un long chemin, et certaines de ses incarnations ont amené l’opinion publique à s’interroger sur les mérites et les risques que comporte cette nouvelle technologie :en plus de la vidéo deepfake susmentionnée de Morgan Freeman, le travail des Néerlandais Bob de Jong et Boet Schouwink, au moins le fausse reddition du président ukrainien Volodymr Zelensky, diffusé par la Russie l'année dernière, et le deepfake de l'acteur Tom Croisière qui a fait fureur sur Tiktok, créé par l'expert en effets spéciaux Chris Ume et Miles Fisher à partir de centaines de milliers de photos et de vidéos de la star hollywoodienne.

Le deepfake a également fait son apparition à la télévision, élargissant encore davantage le public exposé à ses envoûtements :à l'étranger, l'émission satirique Saturday Night Live a diffusé un deepfake de Hillary Clinton en larmes, impossible à distinguer d'une véritable vidéo, tandis qu'en Italie, Striscia la Notizia a fait la même chose avec une vidéo générée de manière algorithmique de l'ancien premier ministre Matteo Renzi.En 2018, le journal en ligne Buzzfeed avait en revanche diffusé un clip faux mais réel de Barack Obama, qui révélait seulement à la fin qu'il était joué par l'acteur Jordan Peele.

Les risques des deepfakes

Un grand pouvoir implique de grandes responsabilités, a déclaré un super-héros de bande dessinée bien connu, et il en va de même pour les inconnues qui se profilent à l’horizon des deepfakes.Que se passe-t-il lorsque des milliers, voire des millions de personnes croient à une fausse vidéo d’un dirigeant politique annonçant une guerre nucléaire ?Et avant ça :que va devenir le nôtre rapport à la réalité, maintenant que ce que nous voyons et entendons n'est plus « vrai » par définition ?

Même sous nos latitudes, à l'époque du deepfake de Matteo Renzi sur Striscia la Notizia, de nombreux observateurs soulignaient que la présentation quelque peu ambiguë du contenu en prime time pouvait donner lieu à des malentendus aux conséquences graves :Wired l'avait défini « un défi supplémentaire pour le journalisme et pour l'opinion publique dans son ensemble ».

Mais à l’étranger, comme c’est souvent le cas, le débat sur les deepfakes est bien plus avancé que ce qui fait la une des journaux en Italie :l'année dernière, pour la première fois, un campagne massive de vidéos montrant de faux acteurs de télévision inhabituellement pro-chinois ont inondé Facebook et Twitter anglophones, ouvrant un nouveau front inquiétant duguerre de l'information géopolitique.

Qui nous sauvera de l’invasion des ultra-contrefaçons ?

Vous ne les lisez certainement pas, du moins pour le moment :le seul État à avoir réussi mesures urgentes tenter d'endiguer le phénomène est la Chine, qui, plus tôt cette année, a rendu obligatoire l'obtention du consentement de la personne « falsifiée » et l'apparition de signes distinctifs, tels que des filigranes, qui attestent du caractère faux de l'œuvre.Mais le dragon a aussi les mêmes problèmes que le reste du monde :Comment endiguer un phénomène dont les agresseurs les plus féroces opèrent souvent de manière anonyme, sur des plateformes fluides où les contenus se multiplient si rapidement qu'ils peuvent agir presque sans être dérangés ?

Quelque chose, au moins, commence à bouger dans la vieille Europe aussi : Loi sur l'intelligence artificielle, qui vient d'être approuvée par le Parlement européen, vise à imposer une nouvelle norme internationale pour la réglementation et la transparence des applications d'intelligence artificielle.Mais de nombreuses pièces de son texte font l’objet de débats et de doutes juridiques :il est difficile de définir la portée de ce que l’on peut qualifier d’« intelligence artificielle », sans parler de la difficulté de la réglementer.Pour l'instant, en bref, ces photos et vidéos de personnes qui n'existent pas sont destinées à faire du beau et du mauvais temps :et nous, comme dans ce grand classique de Sanremo, ne voyons plus la réalité.

Comment reconnaître un deepfake

Face à tous ces risques, il ne reste plus qu'à comprendre comment se défendre à partir de deepfakes :ce qui n'est pas du tout simple, et le deviendra de moins en moins, avec la progression exponentielle de ceux-ci (dans le dernier Photoshop, Adobe a présenté une fonction générative capable de créer des photomontages quasiment impossibles à distinguer de la réalité).

A l’heure où nous rédigeons ces lignes, les principales intelligences artificielles ont encore quelques problèmes avec l'abandon des mains des êtres humains :si vous voyez une extrémité d'un membre supérieur qui a quelque chose d'étrange, n'excluez pas qu'il puisse s'agir d'un faux.

Le Mit recommande, entre autres, de faites attention à la peau de votre visage des protagonistes des soupçons de deepfakes :si elle apparaît trop serrée, ou vice versa, trop ridée ou avec différents degrés d'âge dans différentes parties du visage, alors il y a de fortes chances que cette image, ou cette vidéo, ne soit pas réelle.Et même le clignement des yeux et le mouvement des lèvres peuvent donner de bonnes indications en ce sens.