什么是深度造假?它们是如何被制造出来的?

不断发展的深度造假技术使得制造从未发生过的场景的证据成为可能，人们对此越来越感到不安。名人发现自己在不知情的情况下成了色情片的明星，政客们也在视频中出现说一些他们从未真正说过的话．

对深度造假的担忧导致了应对措施的激增。新的法律旨在阻止人们制造和传播毒品。今年早些时候，社交媒体平台包括脸谱网而且推特在他们的网络中禁止深度造假。计算机视觉和图形会议上充斥着描述如何防御它们的演示文稿。

那么到底什么是deepfake，为什么人们如此担心它们呢?

什么是deepfake?

Deepfake技术可以将世界上任何人无缝地拼接到他们从未真正参与过的视频或照片中。这种能力已经存在了几十年——这就是已故演员保罗·沃克(Paul Walker)复活的原因速度与激情7．但在过去，制作这些效果需要整个工作室的专家花费一年的时间。现在，deepfake技术——新的自动计算机绘图或机器学习系统——可以更快地合成图像和视频。

然而，关于“deepfake”这个词有很多困惑，计算机视觉和图形研究人员一致对这个词表示厌恶。从人工智能生成的最先进的视频到任何看起来可能存在欺诈的图像，它已经成为了一个包罗万象的词。

很多被称为深度造假的东西根本不是:例如，一个有争议的“蟋蟀”视频前总统候选人迈克尔·布隆伯格竞选团队发布的美国民主党初选辩论视频是用标准的视频编辑技术制作的。深度造假没有发挥作用。

深度造假是如何产生的

深度造假的主要成分是机器学习，这使得以更低的成本更快地生产深度造假成为可能。为了制作一个关于某人的深度假视频，创作者首先会用一个人的真实视频片段训练神经网络，让它真实地“了解”他或她在不同角度和不同光线下的样子。然后，他们将训练过的网络与计算机图形技术结合起来，将这个人的副本叠加到另一个演员身上。

虽然人工智能的加入使这一过程比以往任何时候都要快，但这一过程仍然需要时间来产生一个可信的合成物，将一个人置于完全虚构的情境中。创建者还必须手动调整经过训练的程序的许多参数，以避免图像中出现可疑的光点和伪影。这个过程很难说是简单的。

许多人认为，一类名为生成对抗网络(GANs)的深度学习算法将成为未来深度造假发展的主要引擎。GAN-generated面临几乎不可能从真实的面孔上分辨出来。deepfake景观的第一次审计用了整整一节来讨论GANs，表明它们将使任何人都有可能制造复杂的深度伪造。

然而，对这种特殊技术的关注具有误导性，他说Siwei律纽约州立大学布法罗分校。他说:“如今，大多数深度伪造视频都是由算法生成的，而GANs在其中并没有发挥非常重要的作用。”

GANs很难使用，并且需要大量的训练数据。与其他技术相比，模型生成图像所需的时间更长。最重要的是，gan模型适合合成图像，但不适用于制作视频。他们很难保持时间一致性，或保持同一图像从一帧到下一帧对齐。

最著名的音频“深度伪造”也不使用GANs。当加拿大人工智能公司Dessa(现在归Square所有)用脱口秀主持人乔·罗根(Joe Rogan)的声音说出了他从未说过的句子，GANs没有参与。事实上，当今深度造假的绝大部分都是使用人工智能和非人工智能算法制作的。

谁创造了深度造假?

最令人印象深刻的深度造假案例往往来自大学实验室和它们所孵化的初创公司:一个被广泛报道的足球明星视频大卫·贝克汉姆能流利地说9种语言他只说了其中一个，这是德国慕尼黑工业大学开发的一种代码。

麻省理工学院的研究人员发布了一段令人匪夷所思的视频，视频中美国前总统理查德·尼克松发表了他为全国准备的另一场演讲如果阿波罗11号失败了．

但这些并不是让政府和学术界如此担心的深度造假。深度造假并不一定要达到实验室级别或高科技水平才能对社会结构产生破坏性影响，非自愿的色情深度造假和其他有问题的形式就说明了这一点。

事实上，深度造假的名字来自于该类型的ur-example，该类型是由一位自称r/deepfakes的Reddit用户于2017年创建的，他使用谷歌的开源深度学习库将色情演员的脸交换为女演员的脸。如今在野外发现的DIY深度伪造作品中的代码大多来自这个原始代码——虽然有些可能被认为是有趣的思想实验，但没有一个可以被称为令人信服的。

那么，为什么每个人都如此担心呢?“技术总是在进步。这就是它的运作方式。Hany Farid他是加州大学伯克利分校的数字取证专家。对于DIY技术什么时候能发展到足以构成真正威胁的程度，研究界还没有达成共识——人们的预测相差很大，从2年到10年不等。但最终，专家们一致认为，任何人都可以打开智能手机上的应用程序，制作出逼真的其他人的深度仿制品。

深度造假的用途是什么?

深度造假目前对女性构成的最明显威胁是——未经双方同意的色情作品占深度造假的96%目前在互联网上部署。大多数以名人为目标，但有越来越多的报道称，深度造假被用来制作虚假的复仇色情片亨利Ajder他是这家检测公司的研究主管Deeptrace在阿姆斯特丹。

但女性不会是欺凌的唯一目标。无论是在学校还是在工作场所，深度造假很可能会在更普遍的情况下导致欺凌行为，因为任何人都可以把人置于荒谬、危险或妥协的场景中。

企业担心深度造假在超级骗局中可能扮演的角色。有未经证实的报道称deepfake音频被用于首席执行官诈骗骗员工把钱寄给骗子。勒索可能成为一个主要的用例。身份欺诈是最大的忧虑在这家生物识别公司进行的网络安全行业调查中，超过四分之三的受访者认为深度造假iProov．受访者最担心的是，深度造假会被用来进行欺诈性在线支付，并侵入个人银行服务。

对于政府来说，更大的担忧是深度造假对民主构成威胁。如果你能让一个女明星出现在色情视频中，你也可以对一个竞选连任的政客做同样的事情。2018年，一段已婚的巴西São Paulo州长João Doria参加狂欢的视频浮出水面。他坚持说那是赝品。还有其他的例子。2018年，加蓬的总统，长期被认为身体不适的阿里·邦戈，出现在可疑视频中为了安抚民众，引发了一场未遂政变。

这些未经证实的案例的模糊性表明了深度造假的最大危险，无论其目前的能力如何:深度造假说谎者的股息这是一种华丽的说法，意思是深度造假的存在为任何人做任何他们想做的事情提供了掩护，因为他们可以将任何不当行为的证据视为深度造假。这是一刀切似是而非的推诿。法里德说:“这是你绝对开始看到的:骗子红利被用作摆脱麻烦的一种方式。”

我们如何阻止恶意深度造假?

美国几项关于深度造假的法律已经在过去一年生效。州提出将深度造假定为犯罪的法案禁止在选举的背景下使用深度造假。德克萨斯州，弗吉尼亚州和加利福尼亚州将深度假色情定为犯罪，12月总统签署了第一部联邦法律作为国防授权法案的一部分但这些新法律只有在犯罪者居住在这些司法管辖区之一时才有用。

然而，在美国之外，采取具体行动禁止深度造假欺诈的国家只有中国和韩国。在英国，法律委员会目前正在审查现有的复仇色情法律，以解决制造深度造假的不同方法。然而，与其他类型的在线错误信息相比，欧盟似乎并不认为这是一个迫在眉睫的问题。

因此，虽然美国在这方面处于领先地位，但几乎没有证据表明正在提出的法律是可执行的或具有正确的重点。

虽然许多研究实验室已经开发出新的方法来识别和检测被篡改的视频水印或者一个区块链例如，为了制造出更有说服力的深度赝品，很难制造出不立即被欺骗的深度赝品检测器。

尽管如此，科技公司仍在努力。脸书从伯克利、牛津和其他机构招募了研究人员，建立了一个深度造假检测器，并帮助其执行它的新禁令．推特也对其政策做出了重大改变，更进一步，据报道正在计划如何标记任何深度造假不会被完全删除。和YouTube重申今年2月，该公司表示，将不允许与美国大选、投票程序或2020年美国人口普查有关的深度伪造视频。

但在这些围墙花园之外的深度造假呢?两个程序，叫做现实的后卫以及Deeptrace，旨在让深度造假远离你的生活。Deeptrace开发的API就像一个混合的防病毒/垃圾邮件过滤器，对传入的媒体进行预筛选，并将明显的操作转移到隔离区，就像Gmail在垃圾邮件到达你的收件箱之前自动转移垃圾邮件一样。现实卫士，该公司正在建设的平台人工智能基础该公司同样希望在篡改过的图像和视频造成任何损害之前，对它们进行标记和打包。阿吉尔说:“我们认为，将验证媒体身份的责任推给个人是不公平的。”