专家警告说,人工智能可能使恐怖分子和流氓国家能够通过制造致命病原体和毁灭性生物武器来杀死数百万人。
莫斯科、北京或德黑兰的暴君可以劫持复杂的聊天机器人,将普通感冒变成无情的杀手,或者成为新的疫苗抗药性疾病的可怕工程师。
令人担忧的是,这项技术有可能创造出一种新型生物恐怖分子,为之前因缺乏知识和资源而受阻的恐怖组织和独狼狂热分子提供帮助。
这可能会让邪恶的行为者创造出现实生活中的“Weapon X”——一种人工智能驱动的超级武器,能够对人类造成难以估量的破坏。
军情五处负责人肯·麦卡勒姆爵士警告称,人工智能的快速飞跃可能会“改变现有甚至新型生物武器的利害关系”,在此之后,这一令人不寒而栗的警告随之而来。
这位间谍负责人坚称“风险是真实的”,并警告说,扭曲的恐怖分子已经在试图利用这项技术来达到他们的邪恶目的。
“奥本海默时刻”
美国警告称,如果中俄交出核武器机器,人工智能可能引发第三次世界大战
“复活”
在可怕的人工智能告别视频中,在战斗中阵亡的俄罗斯士兵“复活”
顶尖科学家现在已经看到人工智能工程疾病如何在不到一年的时间内让世界屈服。
在他们的噩梦般的模拟中,世界卫生组织(WHO)被迫在一种神秘病毒迅速传播的几周内宣布全球进入大流行紧急状态。
一年后,当疫苗问世时,已有超过 8.5 亿人感染了该病毒,死亡人数达到惊人的 6000 万人。
虽然这个时间表是虚构的,但专家警告说它非常接近成为现实。
该研究由核威胁倡议组织(NTI)在慕尼黑安全会议上提出,得出的结论是,根据当前人工智能趋势和未来发展,此类爆发构成了“现实威胁”。
NTI 全球生物政策和项目团队副总裁 Hayley Severance 告诉《太阳报》:“该计划的重点是极端组织利用人工智能增强能力来设计生命系统,并利用其制造生物武器,释放生物武器并产生毁灭性影响。
“我们认为风险是真实存在的。我们担心人工智能正在降低新兴和非国家行为体开发有害生物制剂的障碍,并且它正在突破国家等更强大的行为体发展进攻能力的极限。
“我们担心人工智能正在导致我们现有的生物安全和医疗对策在面对蓄意攻击时变得不那么有效。”
令人担忧的证据表明,不良行为者已经在尝试将人工智能武器化,以造成严重的生物伤害。
9 月,人工智能巨头 Anthropic 披露了五起未具名国家的科学家试图使用其广受欢迎的 Claude 聊天机器人来研究致命病毒和毒素的案例,并警告称这可能支持生物武器的开发。
该公司承认,当其内置安全防护人员阻止他们的请求时,研究人员甚至找到了机密解决方案。
在一个案例中,用户对机器人进行了一系列实验,旨在修改一种致命的禽流感病毒,使其更容易在哺乳动物之间传播,从而增加传播给人类的风险。
此前,剑桥大学对位于尼日利亚东北部的圣战恐怖组织博科圣地进行了一项令人大开眼界的研究。
该研究警告说,武装分子已经在使用包括 ChatGPT、Claude 和 Gemini 在内的流行聊天机器人来协助战斗和日常行动。
塞弗兰斯说:“目前,他们将其用于标准功能。但他们并不排除将人工智能用于大规模杀伤性武器的兴趣。
“目前唾手可得的成果是,它可以帮助打击常规恐怖活动,但随着这些工具降低了技术更先进的武器化技术的障碍,人们的兴趣就在那里。”
虽然恐怖分子掠夺可怕的生物武器的想法让人不寒而栗,但更紧迫的威胁是流氓国家如何利用这项技术谋取私利。
约翰·霍普金斯大学健康安全中心的高级学者吉吉·格伦瓦尔博士表示:“所有新技术都会增加被滥用的风险。
“所有这些获取信息的方式、迅速民主化的科学,都以不同的方式增加了风险。”
他补充道:“国家计划将更好地准备利用人工智能进行滥用——所以我认为这更值得关注。”
专家们担心,全球独裁者掌握毁灭性新武器并向敌人释放致命病原体的可能性越来越大。
这可以通过劫持现有的人工智能工具或构建自己复杂的内部系统来完成。
维查德说:“人工智能将帮助那些不遵守国际规范的流氓国家。
“他们总是可以探索进攻性生物武器的能力。人工智能可以帮助他们开发更容易隐藏、更容易否认、更容易逃避当前检测机制的能力。
“他们可以寻找致命性较低的武器和更多可以影响敌人认知的生物武器——这些慢性‘感染’不一定会杀死很多人,但会严重损害敌人的认知速度。
“这些是我对国家行为者担心的事情。”
另一个可怕的恐惧是善意的实验室意外地失去了对超级细菌的控制,或者流氓机器人以另一个令人拥抱的面孔式错误逃离了测试环境。
塞弗兰斯说:“我最担心的是在资金充足的实验室里发生的事故,他们正在习惯使用这些工具。
“我们还没有真正将这些工具整合到我们的安全和安保评估中,所以我认为我们没有完全理解它们在现实世界中带来的风险。”
日益严重的警报引发了顶级科技领袖和科学家(包括 OpenAI 老板 Sam Altman 和“人工智能教父”Geoffrey Hinton)的紧急呼吁,要求减缓人工智能发展并加强全球控制。
格伦瓦尔博士说:“这一领域的监管和治理有点混杂。
“众所周知,传染病不分国界。如果我们要关注传染病,无论是为了预防还是应对它们,我们都需要与其他国家合作。”
Breakdown 补充道:“我们不希望这成为一场安全和安保竞赛。
“你刹车不是因为你不想开快。你刹车是为了让你可以开得很快,并确保你可以在需要的时候停下来。”










