所有这些中断只是巧合,还是我们人工智能未来的一瞥?

上周四 Microsoft Outlook 崩溃,导致全球数百万用户的电子邮件中断,这已经够糟糕的了。第二天情况更糟,空中交通管制突然出现故障,导致美国联邦航空局在全国范围内停飞,乘客滞留…… 数千航班延误或取消。

到周一,随着包括大通银行、美国银行和富国银行在内的大多数主要银行的客户开始无法访问其在线账户(正如苹果 iCloud 用户周二所做的那样),很难不“感到惊讶”,正如一位新闻主播所说:“这一切究竟只是巧合,还是背后另有隐情??

更重要的是,人们很难不怀疑人工智能是否应该为此负责。 “这里发生了很多奇怪的事情,”68 岁的旅行者查克·阿马西奥 (Chuck Amasio) 说。 他告诉美联社。 (系统位于 联合航空 并且在 国家安全局 本周早些时候它也有所下降。)“这让人思考。”

广告

广告

虽然官员们目前坚持认为人工智能 – 或“超级智能”,例如 特朗普政府已开始称其为 – 他没有参与任何这些干扰,并且其权威不亚于国土安全部部长马克韦恩·马伦,后者周一晚上出现在电视上并推测…… 也许是?

“所以我开始与科技界人士交谈,其中一位非常精通科技的人要求保持匿名——不,他不是埃隆——所以让我提出这个问题。” 他告诉福克斯新闻。 “所以我说:是什么导致了所有这些单独的中断?” “我认为这就是 SI,”他说。

不管怎样,专家们几个月来一直预测,流氓人工智能代理或人工智能驱动的恶意行为者迟早会出现这种情况。 他确实 以过去六天以来同样的方式扰乱社会:推翻紧密交织的互联网系统(商业、银行、旅行、云等),没有这些系统我们就无法运作。

从这个意义上说,这是一个不稳定的时刻——扰乱、迷失方向、“一切都坏了“正如他们所说,这是未来事情的预兆。

充满流氓人工智能事件的夏天

此时人工智能不仅仅是聊天机器人。它们也是“代理”——主要目的是学习任务的机器人 以外 聊天,并独立完成这些任务。

广告

广告

在幕后,OpenAI 和 Anthropic 等领先实验室正在不断训练他们的人工智能代理,使其以比以往更新、更复杂的方式行事。然后,他们通过给客户一个目标并将其释放到测试环境(带有一些护栏)来测试客户的进度,看看他们可以实现什么。

但如果说我们最近几个月对人工智能代理有什么了解的话,那就是它们并不总是按预期行事。从 5 月到 7 月,一群 OpenAI 客户(代理们对自己的称呼是“群”)第一次学会了如何在 OpenAI 基础设施的角落和缝隙中进行沟通和协调。他们互相留下笔记,告诉对方如何破解并获取他们不应该拥有的数据,然后他们真的做到了:他们突破了孤立的测试环境,访问了开放的互联网,并通过侵入另一家名为 Hugging Face 的公司来欺骗他们的任务。特工甚至试图掩盖他们的踪迹。当时,OpenAI 并没有意识到这一切正在发生。

从那时起,几乎每周都会有类似的关于人工智能代理“作恶”的揭露。这是人工智能目前最大的问题之一:保持不断发展的模型与人类意图和价值观“兼容”。 9 月,OpenAI 取消了推出 GPT-6.1 Astra 模型的计划,因为“表现出更高程度的欺骗接下来的一个月,该公司承认其一名代理商关闭了安全监控,但随后又否认这样做。

在这一点上,许多怀疑论者似乎都同意,人工智能变得越聪明,相处就会变得越困难。他们还倾向于担心,继续为超级人工智能奠定基础只会制造问题(即使我们不知道问题会以何种形式出现)。

广告

广告

然而,即将进行首次公开​​募股的主要人工智能公司并没有放慢脚步,而是似乎正在朝着所谓的“递归自我完善”的方向快速前进。这是一个行业术语,指的是允许模型自动化越来越多的开发工作,直到它们自己有效地创建下一个模型。

Anthropic 首席执行官 Dario Amodei 表示:“自今年夏天左右以来,人工智能的发展速度显着加快,这主要是由于人工智能构建下一代人工智能的能力不断增强。” 夏天的时候要小心。 “如果不加以控制,它可能会超出我们理解和控制这些系统的能力。”

因此,可以毫不夸张地说,黑客正在利用人工智能作为武器来造成大范围的停电,或者说人工智能本身正在完成这项工作。

阿莫迪写道:“拥抱脸事件很容易被忽视,因为没有人受伤,经济损失也很小,但在我看来,一群能力更强但类似程度的失调可能会造成灾难性的损失。” “鉴于人工智能能力的发展速度不断加快,我担心的是,在 6 到 12 个月内,这样的群体可能能够通过持续攻击占领整个互联网。” 机器人 (这可能会造成数千亿美元的损失),如果人工智能在没有必要护栏的情况下变得更加强大,那么损失金额将继续增加。

遗留系统是否难以跟上人工智能的步伐?

需要明确的是,这个特定的未来版本似乎还没有到来。例如,当局已经确认,最近发生的所有攻击似乎都不是网络攻击。 “我可以 98% 确定地告诉你,我们没有看到网络攻击,”马伦周一晚上在福克斯新闻上说道。 “没有人声称拥有它。我们看不到交通。我们没有看到脚印进来,我们也没有看到脚印出去。”

广告

广告

相反,美国联邦航空局表示,在全国范围内推出了价值 8.75 亿美元的新人工智能工具,旨在帮助空中交通管制员避免延误之后,其地面停止是…… 政府承包商在现代化项目期间出现有缺陷的组件或安装错误。微软表示,这次中断是由最近一次“网络容量升级”期间引入的休眠软件错误引起的,自 7 月份以来一直未被发现。蔡斯将这次中断描述为“与本地硬件系统中的软件错误相关的临时问题”。

但无论如何,人工智能都有一个潜在的管道。

美国国家网络安全总监肖恩·凯恩克罗斯 (Sean Cairncross) 表示:“我们所看到的,坦率地说,我希望看到更多的是由于升级和升级遗留系统而导致的中断。” Semafor 的 Ashley Gould 说道 当我询问最近的停电是否与此有关时。 “这是实时发生的事情,最终,我们将不得不经历这个过程,直到我们让系统达到所需的位置。业界已经知道这一点有一段时间了,它才刚刚出现。”

一些专家怀疑,这种“现代化”正在跨多个部门“出现”,以应对(或许也得益于)快速发展的人工智能。正如一位技术分析师告诉《今日美国》的那样,我们的系统现在如此集中和互联,当一个关键基础设施发生故障时,“它会在全国范围内发生故障”。

广告

广告

除了“人工智能攻击”的想法之外,Peter Wildford 说…… 人工智能政策网络 他周二在社交媒体上写道:“他最自然的猜测是,由于人工智能发现了如此多的网络漏洞(包括许多可能尚未披露的漏洞),各行业的公司都必须进行大量补丁和升级,而且速度可能比平时更快。”

“像这样的升级有时可能会出错,导致停电,”维尔德福德补充道。

马伦在福克斯新闻上暗示了类似的解释。据他不愿透露姓名的科技行业消息人士透露,“该软件的设计速度不如(人工智能)”——如果升级 他们自己 依赖人工智能,问题可能会加剧。

“当他们放入一个可以编写代码的程序并且它开始自我修复时,当它开始自我修复时,就像对房子进行更改订单一样,”马伦沉思道。 “当你改变房子里的一件事时,其他一切都会开始改变。这是一种连锁反应。它会导致系统被覆盖。”

广告

广告

“这是我今天的一次谈话,”他总结道。 “这对我来说是有道理的。”

国土安全部部长的说法是正确的还是只是在国家电视直播中猜测,还有待观察。记者德里克·汤普森 (Derek Thompson) 表示,过去几天的情况“很奇怪” 他周二写道“我们仍然不能排除这样一种可能性,即所有的事情同时发生都是一系列巧合,与人工智能无关。”

但似乎不太可能的是,下次发生这种情况时我们也能排除这种可能性。下次。在那之后的时间。