Was Deepfakes sind und warum wir anfangen sollten, sie zu fürchten

Deepfakes sind eine neue Anwendung künstlicher Intelligenz und maschinellen Lernens, die in der Lage ist, die Grenzen zwischen wahr und falsch zu verwischen.

• Die neue Grenze der Hoaxes und Fake News sind Deepfakes
• Künstliche Intelligenz birgt die Gefahr, urbane Legenden hervorzubringen, die schwer zu untergraben sind
• Einige Lösungen zur Abwehr dieser Informationsdrift

„Wie ist die Wahrnehmung der Realität?Ist es die Fähigkeit, das, was unsere Sinne empfangen, zu erfassen, zu verarbeiten und zu verstehen?Wenn man etwas hören, sehen, berühren oder riechen kann, ist es dann real?“Dies wurde letztes Jahr in einem auf YouTube veröffentlichten Video gefragt Morgan Freeman, einer der dienstältesten und berühmtesten Stars Hollywoods.Allerdings erklärte Morgan Freeman am Ende des Clips selbst, dass er nicht Morgan Freeman sei:Was unsere Sinne als Zuschauer gerade wahrgenommen hatten, war ein Deepfake, also eine neue Anwendung künstlicher Intelligenz und maschinelles Lernen ist in der Lage, die Grenzen zwischen wahr und falsch zu verwischen.

Was versteht man unter Deepfake?

Der Begriff eroberte schnell die Medien und einen Großteil der neuen allgemeinen Vorstellungskraft, aber was? Was Deepfakes wirklich sind?Zunächst ist festzuhalten, dass Deepfakes bereits seit fast einem Jahrzehnt existierten und sich weiterentwickelten, obwohl die Welt in den Jahren rund um die Covid-19-Pandemie begann, darüber zu sprechen:Im Jahr 2014 veröffentlichte Ian Goodfellow, ehemaliger Leiter der Abteilung für künstliche Intelligenz von Apple, eine wissenschaftliche Arbeit Hier wird das Konzept des „Generative Adversarial Network“ (oder Gan, Akronym für Generative Adversarial Network) vorgestellt, eine besondere Anwendung von maschinelles Lernen Dabei „fordern“ sich zwei neuronale Netze gegenseitig in einem Nullsummenspiel heraus, bei dem sie es lernen können neue Bilder erzeugenIch gehe von einem vorhandenen Datensatz aus.Und 2017 stärken Forscher des multinationalen Grafikkartenkonzerns Nvidia die Ergebnisse der Gan-Netzwerke und machen sie glaubwürdiger.

Das ist die Geburtsstunde des Deepfakes:Websites wie thispersondoesnotexist.com Sie machen der breiten Öffentlichkeit billige Fälschungswerkzeuge zugänglich, die in der Geschichte der Menschheit beispiellos sind, und zum ersten Mal erkennt die Welt, dass unsere Beziehung zur Realität am seidenen Faden hängt.„Tief“, weil die neuronalen Netze dieser Generierungswerkzeuge aus verschiedenen Schichten bestehen:ist das tiefes Lernen, diese Form von künstliche Intelligenz was es uns ermöglicht, die Gesichtszüge und Stimmen echter Menschen nachzubilden;„gefälscht“, weil, nun ja, es keinen Erklärungsbedarf gibt.

Im November 2017 veröffentlichte ein anonymer Benutzer einen Algorithmus auf Reddit, der gefälschte, aber realistische Videos produzieren kann:Der Code landet auf der beliebten Code-Sharing-Seite GitHub, wo er jedem kostenlos zur Verfügung gestellt wird.Und seitdem Deepfake hält Einzug in die erste große Branche in dem er hervorstechen wird:Porno.Anwendungen wie FakeApp ermöglichen es jedem, das Gesicht eines anderen in kompromittierende Videos einzufügen, die auf den ersten Blick realistisch erscheinen, was zu unendlich vielen Risiken und viel Frauenfeindlichkeit führt:Scarlett Johansson, obwohl sie selbst eine der häufigsten Protagonistinnen gefälschter pornografischer Videos ist, die überall im Internet verbreitet werden, wird sagen, dass der Kampf gegen sie „eine verlorene Sache“ sei, da „das Internet ein dunkles schwarzes Loch ist, das sich von sich selbst ernährt.“ ".

Was sind die berühmtesten Deepfakes?

Seit seinen ersten Schritten hat „Deep Fake“ einen langen Weg zurückgelegt, und einige seiner Inkarnationen haben dazu geführt, dass die öffentliche Meinung die Vorzüge und Risiken, die diese neue Technologie mit sich bringt, in Frage stellt:Neben dem oben erwähnten Deepfake-Video von Morgan Freeman ist zumindest das Werk der Niederländer Bob de Jong und Boet Schouwink falsche Kapitulation des ukrainischen Präsidenten Wolodymyr Selenskyj, der letztes Jahr von Russland verbreitet wurde, und das Deepfake des Schauspielers Tom Cruise das auf Tiktok zum großen Renner wurde, erstellt von den Spezialeffektexperten Chris Ume und Miles Fisher aus Hunderttausenden Fotos und Videos des Hollywoodstars.

Der Deepfake ist auch im Fernsehen aufgetaucht und hat das Publikum, das seinen Zaubersprüchen ausgesetzt ist, noch weiter vergrößert:Im Ausland strahlte die Satiresendung Saturday Night Live ein Deepfake aus Hillary Clinton unter Tränen, die von einem echten Video überhaupt nicht zu unterscheiden sind, während Striscia la Notizia in Italien dasselbe mit einem algorithmisch generierten Video des ehemaligen Premierministers Matteo Renzi tat.Im Jahr 2018 hatte die Online-Zeitung Buzzfeed stattdessen einen gefälschten, aber echten Clip von Barack Obama verbreitet, der erst am Ende verriet, dass er vom Schauspieler Jordan Peele gespielt wurde.

Die Risiken von Deepfakes

Mit großer Macht geht große Verantwortung einher, sagte ein bekannter Comic-Superheld, und das Gleiche gilt für die Unbekannten, die am Horizont von Deepfakes auftauchen.Was passiert, wenn Tausende, möglicherweise sogar Millionen Menschen einem gefälschten Video eines politischen Führers glauben, der einen Atomkrieg ankündigt?Und davor:was aus uns wird Beziehung zur Realität, nachdem das, was wir sehen und hören, per Definition nicht mehr „wahr“ ist?

Selbst in unseren Breitengraden wiesen viele Beobachter zur Zeit von Matteo Renzis Deepfake auf Striscia la Notizia darauf hin, dass die etwas unklare Darstellung der Inhalte in der Hauptsendezeit zu Missverständnissen mit schwerwiegenden Folgen führen könnte:Wired hatte es definiert „Eine weitere Herausforderung für den Journalismus und die öffentliche Meinung insgesamt.“

Aber wie so oft ist die Debatte über Deepfakes im Ausland viel weiter fortgeschritten als das, was in Italien auf den Titelseiten erscheint:letztes Jahr zum ersten Mal eine riesige Kampagne Videos, die gefälschte, ungewöhnlich pro-chinesische Fernsehschauspieler zeigen, überfluteten englischsprachiges Facebook und Twitter und eröffneten eine neue und besorgniserregende FrontInformationskrieg geopolitisch.

Wer wird uns vor der Invasion von Ultrafakes retten?

Sie lesen sie sicherlich nicht, zumindest im Moment:der einzige Staat, der bestanden hat dringende Maßnahmen Der Versuch, das Phänomen einzudämmen, ist das China, die es Anfang dieses Jahres zur Pflicht machte, die Zustimmung der „gefälschten“ Person einzuholen und markante Zeichen, wie etwa Wasserzeichen, anzubringen, die den gefälschten Charakter des Werks bestätigen.Doch auch der Drache hat die gleichen Probleme wie der Rest der Welt:Wie können wir einem Phänomen Einhalt gebieten, bei dem die grausamsten Täter oft anonym auf flexiblen Plattformen agieren, auf denen sich Inhalte so schnell vervielfachen, dass sie nahezu ungestört agieren können?

Nicht zuletzt kommt auch im alten Europa etwas in Bewegung: Gesetz über künstliche Intelligenz, Das gerade vom EU-Parlament verabschiedete Gesetz zielt darauf ab, einen neuen internationalen Standard für die Regulierung und Transparenz von Anwendungen künstlicher Intelligenz einzuführen.Aber viele Teile seines Textes sind Gegenstand von Debatten und rechtlichen Zweifeln:Es ist schwierig, den Umfang dessen zu definieren, was als „künstliche Intelligenz“ bezeichnet werden kann, geschweige denn, wie schwierig es sein kann, sie zu regulieren.Kurz gesagt, diese Fotos und Videos von Menschen, die nicht existieren, sind dazu bestimmt, gutes und schlechtes Wetter zu bewirken:und wir sehen, wie in diesem großen Sanremo-Klassiker, die Realität nicht mehr.

Wie erkennt man einen Deepfake?

Angesichts all dieser Risiken bleibt nur noch das Verstehen wie man sich verteidigt von Deepfakes:Das ist keineswegs einfach und wird mit der exponentiellen Entwicklung immer weniger einfach (im neuesten Photoshop präsentierte Adobe eine generative Funktion, mit der Fotomontagen erstellt werden können, die von der Realität kaum zu unterscheiden sind).

Zum Zeitpunkt des Verfassens dieses Artikels haben die wichtigsten künstlichen Intelligenzen noch einige Probleme damit die Hingabe der Hände des Menschen:Wenn Sie ein Ende der oberen Gliedmaßen sehen, das etwas Seltsames aufweist, schließen Sie nicht aus, dass es sich um eine Fälschung handeln könnte.

Das Mit empfiehlt, unter anderem von Achten Sie auf die Haut in Ihrem Gesicht Zu den Protagonisten mutmaßlicher Deepfakes:Wenn es zu eng erscheint oder umgekehrt zu faltig oder an verschiedenen Stellen des Gesichts unterschiedlich alt ist, besteht eine gute Chance, dass dieses Bild oder dieses Video nicht echt ist.Und auch Blinzeln und Lippenbewegungen können in diesem Sinne gute Hinweise geben.