什么是深度造假以及为什么我们应该开始害怕它们

Deepfakes 是人工智能和机器学习的一种新应用，能够模糊真假之间的界限。

• 恶作剧、假新闻的新领域是深度伪造
• 人工智能有可能产生难以消除的都市传说
• 防止这种信息漂移的一些解决方案

“什么是现实的感知？是捕捉、处理和理解我们的感官所接收到的信息的能力吗？如果你能听到、看到、触摸或闻到某样东西，那它就是真的吗？”去年在 YouTube 上发布的视频中提出了这个问题 摩根·弗里曼, ，好莱坞任职时间最长、最著名的明星之一。除此之外，在剪辑的最后，摩根·弗里曼本人宣称他不是摩根·弗里曼：我们作为观众的感官刚刚接收到的是一个deepfake，即人工智能的新应用和 机器学习 能够模糊真实与虚假的界限。

深度造假是什么意思？

这个词很快就占领了媒体和许多新的共同想象，但是什么 深度造假到底是什么？首先，应该指出的是，尽管世界在 Covid-19 大流行的几年里开始谈论它，但深度造假已经存在并且已经发展了近十年：2014 年，苹果人工智能部门前负责人 Ian Goodfellow 发表了一篇文章 科学论文 其中引入了“生成对抗网络”（或 Gan，生成对抗网络的缩写）的概念，这是 机器学习 其中两个神经网络在零和游戏中相互“挑战”，使它们能够学习 生成新图像我从现有的数据集开始。而在 2017 年，跨国显卡公司 Nvidia 的研究人员加强了 Gan 网络的研究成果，使其结果更加可信。

这就是 Deepfake 的诞生：类似的网站 thispersondoesnotexist.com 它们向公众提供了人类历史上前所未有的廉价伪造工具，世界第一次意识到我们与现实的关系岌岌可危。“深”是因为这些生成工具的神经网络是由不同的层组成的：是 深度学习, ，这种形式的 人工智能 这使我们能够复制真人的特征和声音；“假”是因为，好吧，不需要解释。

2017 年 11 月，一位匿名用户在 Reddit 上发布了一种算法，能够制作虚假但真实的视频：该代码最终出现在流行的代码共享网站 GitHub 上，任何人都可以免费使用。从那时起 Deepfake进军第一大产业 他将在其中脱颖而出：A片。像 FakeApp 这样的应用程序允许任何人将其他人的脸插入到乍一看似乎很现实的妥协视频中，从而产生无数的风险和大量的厌女症：斯嘉丽·约翰逊尽管是散布在互联网四个角落的假色情视频最常见的主角之一，但她会说，与这些视频作斗争是“注定失败的”，因为“互联网是一个以自身为食的黑暗黑洞” ”。

最著名的深度赝品有哪些

自第一步以来，“深度造假”已经走了很长一段路，它的一些化身已经引起公众舆论质疑这项新技术带来的优点和风险：除了前面提到的摩根·弗里曼的 Deepfake 视频、荷兰人 Bob de Jong 和 Boet Schouwink 的作品之外，至少 假投降 去年俄罗斯流传的乌克兰总统弗拉基米尔·泽连斯基的照片以及该演员的 Deepfake 汤姆·克鲁斯 该特效在 Tiktok 上风靡一时，由特效专家 Chris Ume 和 Miles Fisher 根据这位好莱坞明星的数十万张照片和视频创作而成。

Deepfake 还出现在电视上，进一步扩大了接触其魔力的受众范围：在海外，讽刺节目《周六夜现场》播出了深度伪造的 希拉里·克林顿 在意大利，Striscia la Notizia 对前总理马泰奥·伦齐 (Matteo Renzi) 的算法生成视频做了同样的事情。2018 年，在线报纸 Buzzfeed 却流传了一段假而真实的巴拉克·奥巴马 (Barack Obama) 片段，直到最后才透露他的扮演者是演员乔丹·皮尔 (Jordan Peele)。

深度造假的风险

一位著名的漫画超级英雄表示，能力越大，责任越大，这同样适用于深度假货地平线上隐现的未知因素。当成千上万甚至可能数百万人相信政治领导人宣布核战争的虚假视频时会发生什么？在那之前：我们会变成什么样子 与现实的关系, ，现在我们看到和听到的东西不再是“真实的”定义？

即使在我们这个纬度，当马泰奥·伦齐 (Matteo Renzi) 在《Striscia la Notizia》上进行 Deepfake 时，许多观察家指出，黄金时段内容的表述有些含糊，可能会引起误解，造成严重后果：有线有它 定义的 “对新闻业和整个公众舆论来说是进一步的挑战”。

但在国外，正如经常发生的那样，关于深度造假的争论比意大利头版的争论要早得多：去年第一次 大规模运动 假冒的、异常亲华的电视演员的视频充斥着英语国家的 Facebook 和 Twitter，开启了一个新的、令人担忧的局面。信息战 地缘政治。

谁能拯救我们免受假货的侵袭？

你肯定没有读过它们，至少现在是这样：唯一已经过去的状态 紧急措施 试图阻止这种现象的方法是 中国, 今年早些时候，该法案强制要求获得“伪造”者的同意，并显示出明显的标志，例如水印，以证明作品的伪造性质。但龙也有和世界其他地方一样的问题：我们如何阻止这样一种现象：最凶猛的滥用者往往在内容快速增长、几乎不受干扰的流动平台上匿名运作？

旧欧洲也开始发生一些变化： 人工智能法, 刚刚获得欧盟议会批准，旨在为人工智能应用的监管和透明度制定新的国际标准。但 许多部分 其文本的内容是辩论和法律疑问的主题：很难界定“人工智能”的范围，更不用说监管它有多困难了。就目前而言，简而言之，那些不存在的人的照片和视频注定会带来好天气和坏天气：而我们，就像在圣雷莫那部伟大的经典中一样，不再看到现实。

如何识别深度造假

面对所有这些风险，剩下的就是了解 如何保护自己 来自深度造假：这一点都不简单，而且随着这些技术的指数级进步，它会变得越来越不简单（在最新的 Photoshop 中，Adobe 提供了一种生成功能，能够创建与现实几乎没有区别的蒙太奇照片）。

截至撰写本文时，主要人工智能仍存在一些问题 双手的投降 人类的：如果您看到上肢末端有奇怪的东西，请不要排除它可能是假的。

麻省理工学院 推荐, ，除其他外， 注意脸上的皮肤 疑似深度造假的主角：如果它看起来太紧，或者反之亦然，皱纹太多，或者面部不同部位的年龄不同，那么该图像或视频很可能不是真实的。从这个意义上说，甚至眨眼和嘴唇运动也能给出很好的指示。