诈骗者总是试图诱骗我们交出辛苦赚来的钱和个人信息，但生成式人工智能让他们变得更容易。现在，只需单击一个按钮，他们就能够创建看起来和听起来都像我们的非常好的内容。这被称为人工智能模仿，这是一个日益严重的问题。
名人、公众人物和政客都是备受瞩目的仿冒目标。随着 11 月份可能产生重大且有争议的中期选举的临近，我们现在必须做好准备。
人工智能生成或合成媒体已成为新常态。得益于 OpenAI、Google 和 Meta 等科技公司，人工智能图像和视频生成器可以轻松创建和编辑内容。无需高级 Photoshop 技能。人工智能使得创建虚假内容并快速广泛传播变得更加容易。 Doppel 首席战略和体验官 Bobby Ford 告诉我，这个问题可以被视为三个 V：体积、速度和向量。
“以前，威胁行为者会花费相同的时间和资源来创建深度伪造品，并且速度要快得多。因此，视频、语音和电子邮件等新向量可以作为人工智能工具并以更多格式提供，”他说，“所以我们看到所有三个 V 都在增加。”
但合成媒体的目标并不总是完美地模仿政客或公众人物。它经常被用来让我们相信虚假内容是真实的。扭曲我们的情绪 它使我们超出我们更好的判断力。影响我们信念的能力非常重要。尤其是在政治领域
人工智能已经融入政治。
2024 年总统初选期间，新罕布什尔州数千名选民 接到一个令人惊讶的机器人电话 乔·拜登敦促他们不要在选举前一天晚上投票。但那不是乔·拜登，而是。 深伪人工智能由于选民很难区分，拜登竞选团队正试图让人们知道这是假的。但损害已经造成。
“可能没有网络安全工具。但他们仍然在世界上使用坏人使用的所有平台来接触同一个人，”非营利组织“捍卫数字运动”的总裁兼首席执行官迈克尔·凯泽说。 “这使得在这种环境下工作非常困难。”
其目标是在选举季节及之后破坏信任并制造混乱。 7 月，参议员米奇·麦康奈尔 (Mitch McConnell) 的办公室 发布图片 他最近一次住院期间的照片。社交媒体用户立即开始质疑这是否属实。许多人认为这些图像已经过时或被数字取证专家的人工智能工具修改过。 没有找到证据 它是旧的或已被数字化改变但我们生活在一个这是我们首先想到的世界。
“如果这张照片两年前发布，我需要七到八个小时才能从这张照片中找到医生，”福特告诉我。 “但现在，有了生成式人工智能，我所要做的就是复制该图像，将其粘贴到应用程序中，执行一个简单的命令，在 30 秒内我就可以获得同一张图像的 10 个不同版本，然后我可以将这 10 个不同版本发送给我的朋友。”
这种速度和便利性使得不良行为者可以通过垃圾邮件或欺诈内容充斥互联网和我们的手机。虽然技术可能是新的，但他们使用的策略却不是。他们故意发出紧急信息。这样，您就不必停下来思考您的回应，例如，如果您在选举日之前收到一条消息称您的投票地点已更改。在点击恶意链接之前，您可能不会停下来质疑它是否真实。
“这种媒体的目的是操纵你的情绪，”凯撒说。
因此，最好的反击方法之一就是深吸一口气，后退一步，三思而后行。并询问为什么向我们发送此消息，但有时说起来容易做起来难。
“现在我不必对（人）进行大量研究来瞄准（他们），”福特说。 “我可以打开某个应用程序，让它写一封电子邮件，或者让它根据从你那里收集的开源数据开发合成语音。这就是区别。”
查看完整历史记录
