在Deepfakes军备竞赛里面

Deepfake视频很难被未经训练的眼睛检测到，因为它们非常逼真。无论是用作报复的私人武器，操纵金融市场还是破坏国际关系的稳定性，描绘人们所做的事情以及他们从未做过或说过的事情的视频都是对“看见相信”这一长期观念的根本威胁。

大多数深度伪造是通过向计算机算法显示一个人的许多图像，然后让它使用它所看到的来生成新的面部图像。与此同时，他们的声音是合成的，所以它的外观和声音都像是人们说了一些新东西。

最著名的深水之一听起来是一个警告。

我的一些研究小组早期的工作使我们能够检测到那些不包括一个人正常眨眼量的深度视频 – 但是最新一代的深度伪装已经适应了，所以我们的研究继续推进。

现在，我们的研究可以通过仔细观察特定帧的像素来识别视频的操纵。更进一步，我们还制定了一项积极措施，以保护个人免遭深陷之苦。

在最近的两篇研究论文中，我们描述了如何检测具有瑕疵的深层伪造品，这些瑕疵难以被骗子轻易修复。

当深度伪造视频合成算法生成新的面部表情时，新图像并不总是与人的头部的准确定位，或照明条件或到相机的距离相匹配。为了使假面与周围环境融为一体，它们必须经过几何变换 – 旋转，调整大小或以其他方式扭曲。此过程会在生成的图像中留下数字瑕疵。

您可能已经注意到某些特殊严重转换的工件。这些可以使照片看起来明显篡改，如模糊的边框和人工光滑的皮肤。更微妙的变换仍然留下证据，我们已经教过一种算法来检测它，即使人们看不到差异。

马克扎克伯格的真实视频。
一种算法检测到这个据称马克扎克伯格的视频是假的。

如果一个深度视频有一个人没有直接看相机，这些工件可能会改变。捕捉真实人物的视频显示他们的脸部在三维空间中移动，但深度伪造算法尚无法在3D中制作人脸。相反，它们会生成一张脸部的常规二维图像，然后尝试旋转，调整大小并扭曲该图像以适合人们想要观察的方向。

他们还没有很好地做到这一点，这为检测提供了机会。我们设计了一种算法，用于计算人的鼻子指向图像的方向。它还测量头部指向的方向，使用面部轮廓计算。在一个真实人物头像的真实视频中，那些应该是非常可预测的。然而，在深度伪造中，它们经常是错位的。

实际上，检测深度伪造的科学是一场军备竞赛 – 骗子将更好地制作他们的小说，所以我们的研究总是要努力跟上，甚至领先一步。

如果有一种方法可以影响创建深度伪造在其任务中更糟糕的算法，那么它将使我们的方法更好地检测伪造。我的小组最近找到了一种方法来做到这一点。

面部图像库由算法组装，处理数千个在线照片和视频，并使用机器学习来检测和提取面部。计算机可能会查看班级照片并检测所有学生和教师的面部，并将这些面部添加到库中。当得到的图书馆拥有大量高质量的人脸图像时，由此产生的深度伪造更有可能成功地欺骗其受众。

我们已经找到了一种方法，可以为人眼看不到的数码照片或视频添加特别设计的噪点，但可以欺骗人脸检测算法。它可以隐藏面部探测器用于定位面部的像素图案，并创建诱饵，暗示存在没有一个面部的面部，例如背景的一块或人的衣服的正方形。

对图像的细微改变可以使面部检测算法失效。

由于较少的真实面部和更多的非面部污染训练数据，因此深度伪造算法在生成假面部时会更糟糕。这不仅减缓了制作深度伪造的过程，而且还使得由此导致的深陷伪装更加容易被发现。

在我们开发此算法时，我们希望能够将其应用于某人上传到社交媒体或其他在线网站的任何图像。在上传过程中，也许，他们可能会被问到：“你想保护这个视频或图像中的面孔不被用于深度伪造吗？”如果用户选择是，那么算法可以添加数字噪声，让人们在线看到面孔，但有效地将它们隐藏在可能试图模仿它们的算法中。

Siwei Lyu，计算机科学教授;纽约州立大学奥尔巴尼分校计算机视觉与机器学习实验室主任

本文根据知识共享许可在The Conversation中重新发布。阅读原始文章。