ディープフェイクとは何か、そしてなぜディープフェイクを恐れるべきなのか

ディープフェイクは、真と偽の境界を曖昧にすることができる人工知能と機械学習の新しいアプリケーションです。

• デマやフェイクニュースの新境地はディープフェイクだ
• 人工知能は覆すのが難しい都市伝説を生み出す危険性がある
• この情報の漂流を防ぐためのいくつかのソリューション

「現実の認識とは何ですか？それは私たちの感覚が受け取ったものを捉え、処理し、理解する能力でしょうか?何かを聞いたり、見たり、触れたり、匂いを嗅いだりできたら、それは本物だと思いますか？」これは昨年Youtubeに投稿されたビデオで質問されました モーガン・フリーマン, ハリウッドで最も長く活躍し、最も有名なスターの一人です。ただし、クリップの最後で、モーガン・フリーマン自身が自分はモーガン・フリーマンではないと宣言したことを除いて：観客としての私たちの感覚が受け取ったのはディープフェイク、つまり人工知能の新たな応用であり、 機械学習 真と偽の境界があいまいになる可能性があります。

ディープフェイクとはどういう意味ですか?

この用語はすぐにメディアや新しい一般的な想像力の多くに定着しましたが、 ディープフェイクとは実際何ですか?まず、新型コロナウイルス感染症のパンデミックを取り巻く数年間に世界中でディープフェイクについて話題になり始めましたが、ディープフェイクはすでに存在しており、ほぼ 10 年にわたって進歩してきたことに注意する必要があります。2014年に、Appleの人工知能部門の元責任者であるイアン・グッドフェローは、 科学論文 これは、「敵対的生成ネットワーク」(または敵対的生成ネットワークの頭字語、Gan) の概念を導入したもので、特定のアプリケーションです。 機械学習 2 つのニューラル ネットワークがゼロサム ゲームで互いに「挑戦」し、以下を学習できるようにします。 新しい画像を生成する私は既存のデータセットから始めます。そして 2017 年には、多国籍グラフィックス カード会社 Nvidia の研究者が Gan ネットワークの結果を強化し、信頼性を高めています。

これがディープフェイクの誕生です。のようなサイト thispersondoesnotexist.com 彼らは人類史上前例のない安価な改ざんツールを一般大衆に提供し、世界は初めて私たちと現実の関係が一本の糸でぶら下がっていることに気づきました。「深い」のは、これらの生成ツールのニューラル ネットワークがさまざまな層で構成されているためです。です ディープラーニング, 、その形 人工知能 これにより、実際の人々の特徴や声を再現することができます。「偽物」というのは、説明の必要もないでしょう。

2017 年 11 月、匿名ユーザーが Reddit に、偽だがリアルなビデオを作成できるアルゴリズムを投稿しました。コードは最終的に人気のコード共有サイト GitHub に置かれ、誰でも無料で利用できるようになります。そしてそれ以来 ディープフェイクが初の主要産業に進出 そこで彼は有名になるでしょう。ポルノ。FakeApp のようなアプリケーションを使用すると、一見すると現実的に見える危険なビデオに誰でも他人の顔を挿入でき、無限のリスクと多くの女性蔑視が発生します。スカーレット・ヨハンソンは、自分自身がインターネットの四隅に蔓延するフェイクポルノビデオの最も頻繁な主人公の一人であるにもかかわらず、「インターネットは自らを食い物にする暗いブラックホールである」ことを考えると、それらと戦うことは「失われた大義」であると言うだろう」。

最も有名なディープフェイクは何ですか

最初のステップ以来、「ディープ フェイク」は大きな進歩を遂げ、その化身の中には、この新しいテクノロジーがもたらすメリットとリスクについて世論が疑問を持つようになったものもあります。前述のモーガン・フリーマンのディープフェイク動画に加えて、オランダ人のボブ・デ・ヨングとボート・ショウウィンクの作品、少なくとも 偽の降伏 昨年ロシアによって配布されたウクライナ大統領ヴォロディムル・ゼレンスキーの映像と俳優のディープフェイク トム・クルーズ これは、特殊効果の専門家クリス・ウメとマイルズ・フィッシャーがハリウッドスターの数十万枚の写真やビデオから作成したもので、Tiktokで大流行した。

ディープフェイクはテレビにも登場し、視聴者がその魔法にさらされる範囲がさらに広がりました。海外では、風刺番組「サタデー・ナイト・ライブ」がディープフェイクを放送した。 ヒラリー・クリントン 本物のビデオとまったく区別がつかないほどの涙を流しながら、イタリアではストリシア・ラ・ノティツィアがアルゴリズムで生成したマッテオ・レンツィ元首相のビデオで同じことをした。2018年、オンライン新聞バズフィードは代わりに、バラク・オバマの偽だが本物の動画を流布したが、オバマは最後になって俳優のジョーダン・ピールが演じていたことを明らかにした。

ディープフェイクのリスク

大きな力には大きな責任が伴う、と有名な漫画のスーパーヒーローは言いましたが、ディープフェイクの地平線に迫る未知の存在についても同じことが当てはまります。政治指導者が核戦争を宣言するフェイクビデオを何千人、場合によっては何百万人もの人々が信じたらどうなるでしょうか?そしてその前に:私たちはどうなるのでしょう 現実との関係, 、今、私たちが見たり聞いたりすることは、定義上「真実」ではなくなったのでしょうか？

Striscia la Notizia でのマッテオ レンツィのディープフェイクの時、私たちの程度の範囲でも多くの観察者が、プライムタイムでのコンテンツのやや曖昧な表現が深刻な結果を伴う誤解を引き起こす可能性があると指摘しました。ワイヤードにはそれがありました 定義済み 「ジャーナリズムと世論全体にとってのさらなる挑戦」。

しかし、海外では、よくあることですが、ディープフェイクに関する議論は、イタリアの一面を飾る議論よりもはるかに進んでいます。去年初めて一つ 大規模なキャンペーン 偽の異常に親中的なテレビ俳優を映した動画が英語圏のフェイスブックやツイッターに殺到し、新たな憂慮すべき事態が始まった。情報戦 地政学的な。

ウルトラフェイクの侵入から私たちを救うのは誰でしょうか？

少なくとも現時点では、あなたはそれらを読んでいないことは間違いありません。通過した唯一の州 緊急措置 この現象を食い止めようとするのは、 中国, 、今年初めに、「偽造」者の同意を得ることと、作品の偽造性を証明する透かしなどの独特の兆候を表示することが義務付けられました。しかし、ドラゴンも他の世界と同じ問題を抱えています。コンテンツが急速に増殖し、ほとんど平気で行動できる流動的なプラットフォーム上で、最も凶暴な悪用者が匿名で活動することが多いという現象を、どうやって食い止めればよいのでしょうか?

少なくとも、古いヨーロッパでも何かが動き始めています。 人工知能法, EU議会によって承認されたばかりで、人工知能アプリケーションの規制と透明性に関する新しい国際標準を課すことを目的としています。しかし 多くの部品 その本文の内容は議論と法的疑問の対象となっています。「人工知能」と呼ばれるものの範囲を定義することは難しく、ましてやそれを規制することがどれほど難しいかは言うまでもありません。今のところ、要するに、存在しない人々の写真やビデオは、良い天気も悪い天気ももたらす運命にあるということです。そして、あの偉大なサンレモの古典のように、私たちはもはや現実を見ていません。

ディープフェイクを見分ける方法

これらすべてのリスクに直面して、残っているのは理解することだけです 自分を守る方法 ディープフェイクから:これはまったく簡単ではありませんし、これらの進歩が急激に進むにつれて、ますます簡単ではなくなるでしょう（最新の Photoshop で、Adobe は現実とほとんど区別できないフォトモンタージュを作成できる生成機能を発表しました）。

この記事の執筆時点では、主要な人工知能にはまだいくつかの問題があります。 手の降伏 人間の:上肢の端に何か奇妙な部分がある場合は、それが偽物である可能性を排除しないでください。

ミット 推奨します, とりわけ、 顔の皮膚に注意してください ディープフェイク疑惑の主人公:きつすぎる場合、またはその逆にしわが多すぎる場合、または顔のさまざまな部分で年齢の程度が異なる場合は、その画像またはビデオが本物ではない可能性が高くなります。この意味では、まばたきや唇の動きさえも良い兆候を与える可能性があります。