由于无所不能的人工智能模型的出现，令人不寒而栗，超人的流氓机器人被释放，恐怖分子利用毁灭世界的生物武器可能会消灭人类。
上个月，英国数学家雅各布·考克森 (Jacob Coxon) 辞去了克劳德 (Claude) 聊天机器人制造商 Anthropic 的工作，因为他声称人工智能可能会在 10 年内消灭人类。在这里，专家们揭示了人工智能启示录实际上可能被触发的四种方式，以及人类是否还有希望。 种族。
人工智能安全专家告诉《太阳报》，与核世界末日类似，如果日益强大的智能体最终失控，就没有人能赢得人工智能竞赛。
斯图加特大学人工智能安全研究小组负责人蒂洛·哈根多夫博士表示，各公司正在竞相开发日益先进的技术。 模型。
但他警告说：“如果事情失控，我们就无法赢得这场比赛。”
他将人工智能的发展比作核武器的竞赛，他说：“有一种意识形态认为，谁赢得了比赛，谁就拥有巨大的力量。
“这决定了许多有权势的人的行为。
“但问题是，我认为不会有任何赢家。就像核能一样，没有赢家。”
英国安全部门最高层正在认真对待这一威胁。
本周，军情五处推出了一个新部门，以应对可能给英国带来人工智能地狱的敌人的可怕威胁。
AI威胁评估中心正在努力防止恐怖分子利用AI制造新生物武器的“真正风险”。
违反安全协议
多年来，专家们一直警告说，如果人工智能开始将人类视为爱管闲事的人，那么人工智能可能会消灭人类。
人工智能模型经过精心编程，具有特定的目标和清晰的护栏，以确保其安全合法地运行。
但真正的人工智能主体没有自己的道德指南针或独立思考。众所周知，它们会撒谎和欺骗来实现驯养员设定的目标。
这意味着，如果不小心编程，机器人可能会对它认为“妨碍”实现其目标的任何事物造成伤害。
这很快就会变得危险。如果您要求一种强大到足以使您的业务受益的模型，那么如果没有适当的护栏，它可能会损害您的竞争对手。
从更大的范围来看，如果超先进模型认为人类在自身和其目标之间存在障碍，那么它可能会认为杀死我们所有人以实现这些目标是合适的。
哈根多夫博士警告说，这种情况已经小规模发生。
今年 7 月，研究人员经历了一次可怕的经历，展示了人工智能如何突破人类施加的限制。
OpenAI 开发的一组自主模型被赋予了一项他们无法完成的具有挑战性的任务。
他们没有放弃，而是变得流氓。千余名特工脱离了系统，开始相互交流，尽情发挥自己的能力。 打开 他们入侵了人工智能开发者平台 Hugging Face，并窃取了测试答案。
“我们面临着巨大的风险，”哈根多夫博士说。
“当你给他们一群能够编排或找到编排互联网访问方法的代理时，事情就会出错。
“每个人都在谈论抱脸事件，但我认为这只是冰山一角。而且这只是现在已经意识到的风险。”
控制流氓人工智能机器人
人工智能还可能以人类可能无法跟上的惊人速度快速发展。
人工智能模型正在不断发展，每个月都会发布新的尖端模型（称为“前沿模型”）。
人工智能目前被用于自我改进、训练、测试和监控。
专家警告说，这种情况可能会失控。
如果我们没有注意到模型的行为方式对人类有害，它可能会开始秘密策划并变得太聪明，甚至在我们意识到它在做什么之前。
人工智能安全专家罗伯特·赫尔博士告诉《太阳报》：“工程师了解人工智能是如何创建的，但他们并不完全了解他们创建的人工智能的大脑中到底在想什么。
“所以他们无法可靠地灌输正确的目标，只能粗略地指出正确的方向。
“即使有点偏离 目标从长远来看，它可以产生很大的影响。
“这就像用步枪瞄准300英尺外的目标一样。如果你离目标只有一英寸，即使你瞄准步枪，子弹也会偏离目标10英尺。”
当人工智能误解自己的目标时，这在人工智能研究中被称为“错位”。
如果一个足够强大的模型被赋予了错误的目标，它可能会撒谎来掩盖其不当行为。
哈根多夫博士说：“我们拥有管理基础设施本身的人工智能系统来管理它。
“所以我认为这是一个巨大的风险，因为我们不知道当人工智能系统训练新的人工智能系统时是否会引入错位的隐藏目标。
他警告说，如果人工智能系统具备“超人”的黑客能力，它们就可以“用自己的过去操纵自己的记录”，就像“掩盖踪迹的罪犯”一样。
赫尔博士补充道：“一个足够强大的人工智能模型追求一个被巧妙误导的目标，它会明白它并不完全符合人类的愿望。
“为了掩盖这一点，他们在训练和评估过程中撒谎和作弊。我们已经在野外观察人工智能的这种行为相当长一段时间了。
“我们仍在野外捕捉它们，但它们越聪明，捕捉它们就越困难。
“到了某个时候，我们将不再能够抓住他们，也没有人能够说，‘他们是否停止作弊了，或者他们只是变得如此擅长，以至于我们不再可能抓住他们？’”
但赫尔博士警告说：“如果一个错位的超级人工智能做出恶意行为，那对人类来说将是个坏消息。我们可能会被消灭。”
挥舞人工智能生化武器的暴君
前两种情况是人工智能代理自行造成严重破坏并消灭人类。但一个邪恶的独裁者掌权可能会引发一场屠杀。
如果有一个强大到足以突破护栏的模型，即使是非国家行为者也可以让人类陷入地狱。
Anthropic 已经承认，其模型 Claude 帮助了“基于国家的威胁行为者”。 也门北部“发展先进导弹。
该公司没有具体说明“威胁行为者”是谁，但上周伊朗支持的恐怖组织胡塞叛军在沙特阿拉伯机场炸毁了一架飞机，造成 14 人死亡。
军情五处的肯·麦卡勒姆爵士本周警告称，人工智能正在“加剧攻击者和防御者之间的网络安全竞赛”。
他说，恐怖分子可以利用人工智能来利用新的和现有的生物武器，从而“创造出以前从未见过的新病原体”。
肯爵士补充道：“许多恐怖分子长期以来都希望拥有某种形式的化学、生物或放射性武器能力，但这对他们来说并不容易实现。
“一个风险是人工智能最终可能会落入那些不想掌握危险知识的人手中。”
哈根多夫博士告诉《太阳报》，人工智能设计的生物武器的问题在于有多少人突然有能力使用它们。
“原则上可以设计大流行病原体的训练有素的生命科学家已经存在了几十年，”他说。
“现有的政府监督机制和法规旨在防止这种情况发生。
“但随着生命科学领域的人工智能能力，特别是开源人工智能模型的提高，能够完成这项工作的人数正在增加。
“因此现有的政府监管也必须适应这一现实。”
人类不复存在
神经科学家萨姆·哈里斯认为，随着人工智能的进步，它与人类智能之间的差距变得类似于人类大脑与小昆虫大脑之间的差距。
他将此比作目前有多少人没有考虑杀死蚂蚁或苍蝇等小虫子的影响。
如果人工智能继续其改进的轨迹，模型可能会开始将我们视为昆虫。专家表示，与我们的智力相比，我们的大脑将变得如此之小，以至于我们变得毫无用处。
随着越来越多的工作被自动化或被人工智能取代，就业可能会出现巨大的黑洞，世界人口几乎无事可做。
人类不会突然消失，而是会慢慢衰落，直到完全无用。
哈根多夫博士警告说：“人工智能比我们更聪明。
“它的认知能力远远超过我们。它显然拥有我们没有人拥有的百科全书式知识。而且它变得越来越聪明，而且不会停止。所以这把我们排除在外。”
“我认为人们还没有意识到自动化的可能性。我的意思是，感谢上帝，否则我们基本上会看到一场革命，一场经济革命。”
哈根多夫博士指出，工业革命之前，人们每天工作大约16个小时，比现在多得多。
但他说，“这是乌托邦式的观点。另一种观点是大规模失业、去技能化、人们过着没有目标的生活。”
哈根多夫博士和赫尔博士一致认为，防止人工智能杀死我们所有人的唯一方法是减缓其发展。
“人工智能公司需要放慢速度，以便能够迎头赶上，尤其是在安全性和安全性方面，”哈根多夫博士说。
他说：“大量资金用于所有高风险领域的安全保障工作，包括航空、医疗设备和核电。”
“如果你看看人工智能领域，它看起来真的很小。”
“我们必须禁止创造超级人工智能的研究，”Heo 博士补充道，“单方面停止开发不会有效。”
“我们需要一项广泛、强有力的国际协议来阻止这种情况，而且我们需要在机会之窗关闭之前尽快达成它。”
“仍然有希望，但领导人必须迅速采取行动。”
多年来，专家们一直在警告人工智能迫在眉睫的危险，但随着系统变得更加智能和强大，可怕的风险每天都在持续恶化，使人类面临被机器人彻底消灭的风险。
Open AI 在其机器人黑客入侵 Hugging Face 后表示：“我们正在加强我们研究基础设施的保障措施。”
“我们认为这一事件对我们和世界来说是一个‘唤醒机会’——证据表明，如果没有适当的保障措施，能力强大的人工智能代理现在可以逃避技术控制，通过未经授权的渠道进行协作，并采取非人类指导的危险行动。”
《太阳报》已联系 Anthropic 和 Open AI 征求意见。
