如何在2023年发现DeepFakes

Deepfakes的辨识并不容易;它正变得越来越复杂。

科技一直是一把双刃剑。有好的方面,也有你可以用它们做更糟糕的事情。

虽然上述句子可能有一种诗意的感觉,但谈论人工智能(AI),它就会显现为一个令人瞩目的现实。

Deepfakes就是这样一种AI应用,它可以帮助创造出具有异常真实感的视频、图像和音频,以至于往往需要超人的技能才能将它们与真实的区分开来。

什么是Deepfakes?

简单来说,它们是由台式机或智能手机应用程序制作的虚假媒体。这些应用程序使用特定的算法替换原始部分并与其他部分交换,就像这样:

看看它有多么“真实”。

这就是目的。用这些合成媒体愚弄或娱乐人们。

一段时间以前,制作如此令人信服的视频非常困难,但现在你只需要一台强大的计算机和几天的时间就能完成。

还可阅读:Deepfake Apps to Make the Best Memes

然而,要惊艳所有人,还需要更多的内容,如声音克隆、表情等。

不过,随着算法在低端硬件上变得高效和强大的计算机不断进入市场,这变得越来越简单。

总之,我们将会越来越频繁地看到它们。

此外,当我们意识到可能发生危险的滥用时,我们必须警惕地辨别它们与真相之间的区别。

如何辨识Deepfakes?

并非所有的Deepfakes都是一样的。因此,并非每种技术在任何地方都有效。有些Deepfakes有明显的机器制作痕迹,而其他的则需要仔细观察甚至使用其他人工智能工具进行识别。

肤色

这是要注意的第一件事。被“处理”的部分(通常是脸部)的肤色会有轻微的差异,与其余可见身体部位不匹配。

上图中的左侧是乌克兰总统弗拉基米尔·泽连斯基的伪造视频,他在视频中要求他的军队和人民向俄罗斯投降。

但没有人被这个平庸的复制粘贴作业愚弄,这个Deepfake视频立即被揭穿。

表情

这是主要的破绽,尤其是当业余者冒充Deepfakes专家时。他们制作的拙劣作品往往在嘴唇的运动上表现出不自然的特征,没有人类的停顿,从而帮助辨识它们的真假。

然而,有些算法确实有呼吸停顿的设置。但是,你可以观察到相同模式的停顿和头部运动,通常过于机械化而难以忽视。

同样,闪烁也是揭示Deepfakes的另一个方面。这也会经历循环(如其代码中所写),如果你将其与同一个人的真实视频同时观察,就会发现这种闪烁不太像人类。

另一个用来发现Deepfakes的方法是观察眼球的运动。人工智能,作为一台没有情感和分散注意力的机器,在说话时通常会显得比普通人更专注。

总之,Deepfakes很容易辨别,除非它们制作得(几乎)完美,就像这样。

修补痕迹

那么,如何辨别那不是真正的摩根·弗里曼呢?

前面的视频最好的地方在于它的高质量。你可以切换到最高分辨率(4k可用)来给自己一个发现人工制作的机会。

屏幕越大越好。或者,你可以截图并放大来查看是否存在明显的计算机加工痕迹。

你能看到制作出来的皮肤吗?这就是算法的失败之处,无论有多复杂的细节。

皮肤看起来有点不自然,面部(和头部)的毛发再现不自然,看起来像是粘在一起的。

这将有助于你更好地分析以下内容:

我可以清楚地分辨出合成皮肤,主要是在胡子、胡须和发际线周围可见。

下巴、眉毛、脸(真实的脸很瘦)、鼻子等等与真实的脸(右边的那个)相比,显而易见。

再强调一遍,将真实的脸与假脸并排放在一起,很容易就能分辨出来。

细节

当我们说话时,会发生很多事情。每个人都有自己的风格,这导致嘴唇、舌头、下巴、脸颊等等按照与众不同的模式移动。

此外,深度伪造技术还没有掌握说话时口腔内部的视觉效果。例如,在奥巴马的深度伪造视频中,你无法指出下颌(下颌骨)的单独牙齿。

我们只能看到底部的一条白色条纹,完全没有舌头的运动迹象。

你可以观看任何一个真实的奥巴马视频,就会发现这个人在面部运动上比这个AI复制品更有表情。

此外,你可以看到视频本身并不是非常清晰。它的质量很低,被压缩以隐藏真相或由于计算限制。

过渡

深度伪造产生的一个限制是它们逐帧生成。每一帧都必须经过完美的遮盖检查,以保持神奇。

因此,最令人信服的深度伪造视频在面部运动方面极为有限。它们只显示正面,没有侧面视角,因为从侧面到正面的过渡可能会暴露创作的瓶颈。

看一下从 Tom Cruise deepfake 中的一个静止画面:

如果你放慢视频并仔细观察35-40秒,你会发现从侧面到正面的过渡部分有一些模糊的地方。

这些可以说是最难隐藏的部分,也是揭示这种人工智能作品的最好方式。

所以,这些是一些可以帮助你发现深度伪造并限制错误信息的方法。总结一下:

1. 检查肤色的变化。
2. 留心不自然的嘴唇同步、机械化或不眨眼等现象。
3. 放大观察,看皮肤质地、头发重现等是否真实。
4. 将面部表情和说话风格与真实视频进行比较。
5. 检查是否有高质量版本可用。
6. 快速进行 Google search 以查看其真实性。
8. 注意整体面部尺寸,并与真实尺寸进行对比。
9. 放慢视频以观察糟糕的过渡。
10. 口腔内部看起来是否真实且详细?
11. 在存在歧义的情况下,与朋友和家人分享并征求他们的意见。
发现深度伪造101

深度伪造并不完美!

虽然我们只谈到了深度伪造视频,但AI生成的音频也会受到类似的限制。虽然机器在我们谈论时变得越来越好,但它们永远无法赶上活生生的人。

然而,如果你不亲自动手,学习是不完整的。在这种情况下,我们已经为你制作了这个关于 what deepfakes are and how to create them 的指南。

类似文章