7个你应该注意的常见深度伪造骗局

列举最流行的深度伪造骗局。

让我们从“美国总统”乔·拜登的这个“特殊”地址开始：

这在某种程度上类似于深度伪造（声音）骗局的样子。实际上，这是一个免费的ai语音克隆工具，我花了五分钟多点时间（使用chatgpt）写下并粘贴文本，将其转换为（拜登的）演讲。

然而，深度伪造骗局比这个更复杂。你只需要一些高质量的主题（受害者）的照片、视频或音频以及一张强大的显卡就可以开始。

但我们并不是来讨论如何制作深度伪造视频。本文也不是关于发现深度伪造的。

相反，本文简要介绍了深度伪造，并提到了一些你应该警惕的骗局。

什么是深度伪造？

深度伪造将两个术语组合在一起：深度（来自用于创建它们的深度学习）和伪造（表示输出的性质）。

简而言之，深度学习算法被用于从高分辨率的原始内容中创建令人信服的图像、音频或视频内容。

这是一个经典的深度伪造示例，在某种程度上感觉有效。但它已经五年前的技术了，而且这项技术正在快速发展。

这并不总是为了好玩或展示某人的人工智能能力。其中一个严重的例子是在正在进行的俄乌战争中，弗拉基米尔·泽连斯基先生被他的部队要求投降。

不幸的是，这不是这样的例子。根据regula forensics 2023年的报告，全球37%的组织面临过深度伪造声音欺诈，29%的组织遭遇过合成视频骗局，46%的组织经历过身份盗窃企图。

因此，这不仅仅是娱乐问题，深度伪造广泛用于传播错误信息，并在许多其他方面被滥用，这可能对受害者造成危险和困扰。

此外，对抗深度伪造内容并不容易。它们是人工智能技术的重大进步的副作用，并且这样的工具现在广泛可供公众使用。

因此，我们拥有的最大和最常见的防御措施就是意识。

因此，让我们努力在这些方面工作，并看看深度伪造骗局的类型。

深度伪造骗局的类型

根据内容和目标，深度伪造骗局可以分为几种形式，例如：

• 视频冒充
• 虚假新闻
• 虚假访谈
• 声音欺诈
• 诱捕
• 客服
• 推荐

接下来的章节将详细讨论这些内容及其改变。

视频冒充

这是一个众所周知的深度伪造骗局，我们可以看到一个捏造的视频，一般类似于一个知名目标。典型的受害者可能是一个国家的总统（比如奥巴马的深度伪造视频）、一位受欢迎的好莱坞明星或一家知名公司的首席执行官。

他们易受攻击的原因是他们的照片、演讲等公开可用，因为创建深度伪造视频的工具在不同的输入情况下表现出色，描绘了不同范围的情感、面部角度、光照条件、背景等。

这种冒名顶替的目的可以是纯粹的娱乐，勒索企图，政治动机，诽谤，或其他任何事情。

在罕见情况下，人们可能会看到家庭成员的深度伪造视频，要求金钱或有价值的财物。

虚假新闻

最常见的深度伪造骗局是虚假新闻。这种在线虚假信息宣传活动在骚乱或战争等棘手情况下会带来致命的风险。

不仅如此，当公众人物的深度伪造复制品发表他们在现实中从未说过的评论时，它还会诽谤他们。

助长这种宣传的是社交媒体和像youtube这样的流媒体平台，它们帮助这种虚假新闻像野火一样传播。最后，它创造了一个让普通用户对所见一切的真实性感到困惑的氛围。

虚假采访

不用说，使用深度伪造技术进行的虚假采访针对的是完全远程、在家办公的职位。这些骗局尝试通过zoom等会议程序进行实时深度伪造视频。

除了找到一个次品候选人，目标公司还面临着将其资产暴露给一个欺诈者的风险。根据公司的交易情况，这不仅会损害他们自己的资源，还可能危及他们国家的利益。

深度伪造采访的一个更简单的目标可能是用高价货币支付。

另一方面，骗子可以向无辜的候选人收取面试费，让他们站在“行业大亨”的面前，为他们梦寐以求的工作争取一次机会。

声音欺诈

与深度伪造视频和图像类似，合成声音是另一种增加这种技术驱动骗局名单的技术。

在这样的案例中，亚利桑那州的居民詹妮弗·德斯特法诺（jennifer destefano）在电话中听到她15岁的女儿哭泣，一个男声要求100万美元的赎金。母亲相信她的孩子处于危险之中。在她思考付款之前，他们的朋友打电话给她的丈夫，确认她的女儿是安全的。

德斯特法诺女士后来讲述了这次痛苦经历，她完全相信这个声音，不仅仅是因为声音的音色，还因为整体的语调传递，这与她女儿平时说话的方式完全相符。

这就是声音克隆，是通过使用源的原始音频样本来完成的。

诱捕

根据传统的诱捕定义，诱捕是指通过引诱对象建立关系以勒索敏感信息。诱捕通常针对高调人物，比如在军队工作、高级政府官员、服务政客等。

利用深度伪造技术，这些诱捕行动大多在线进行，任何人都可以按比例执行。这意味着受害者可能会收到来自社交媒体的有吸引力的伴侣关系请求，这些伴侣关系很快会变得亲密，最终目的是进行财务或信息勒索。

这种深度伪造骗局通常是精心策划的行动，在最后设下陷阱之前经过一段时间。

客户支持

技术支持欺诈非常常见。你可能听说过一些“微软”人员要求你支付费用来解决你电脑的“严重”问题的骗局。

在深度伪造之前，他们的口音或者不寻常的言语模式会暴露出恶意企图。但现在，这些骗子拥有可以轻易欺骗善良用户的人工智能超能力，让他们认为自己与一些合法的公司代表在交谈。

推荐

我们中的许多人在购买任何产品之前都会阅读客户评论。同样，检查视频推荐是一个已被证明有用的购物习惯。

这种类型的深度伪造骗局将有多人担保一个劣质产品，影响购买决策，并浪费客户的金钱和时间。

还有更多！

除了文本，你在互联网上还看到了什么？

我想说视频、图片和音频。所有这些都可以通过这种人工智能技术进行操控，使互联网成为不久的将来欺诈活动的温床。此外，深度伪造的创建正在变得越来越容易，使得普通互联网用户难以保持“正确”的信息。

在这种几乎没有什么可以阻止技术广泛滥用的情况下，我们至少应该尽量保持了解。

附言：关于有趣的应用方面，你可以使用这些深度伪造应用来创建一些最好的表情包，让社交媒体疯传。