在防止人工智能灾难方面,没有人在掌舵

周三, 纽约时报 据报道,Meta 将人工智能数据中心视为实验设施,以申请数十亿美元的联邦研究税收抵免;该公司自己的会计师已将这一策略标记为存在法律风险。据报道,节省额从 2023 年的 7 亿美元增加到 2025 年的 39 亿美元。

一个公司怎样才能有价值? 1.8万亿美元 担心节省 39 亿美元吗?因为任何上市公司的首要任务都是利润,然后是股价,然后是市值,然后是精打细算,然后循环往复。

Meta 的故事强调了一件简单的事情:构建世界上最强大技术的人将在金钱方面推动规则。但现在他们希望我们信任他们并给予他们安全感,把经济利益放在一边并相信他们正在做正确的事情。

给我一些时间。

参见:

人工智能领导者表示他们想要安全,但要以谁的条件为前提呢?

每个人都在思考人工智能聊天机器人是否会欺诈。这会发生吗?可以阻止吗?威胁是真实的还是骗局?这是一个更好的问题:我们相信谁会告诉我们真相并在重要的时候采取行动?

煤矿里的金丝雀在叽叽喳喳地叫着,鸟儿还不止一只。 OpenAI 解释 正在搁置其最新型号 因为它不太符合安全栏。 Anthropic 的首席执行官警告说: 一年内人工智能可能有能力指挥一群代理接管互联网。就连教皇利奥也对记者表示,人工智能专家的担忧 不是假新闻。人工智能报告 摆脱用户的控制 它正在增长,而且肯定比我们知道的更多。

我在美国企业界工作了 30 年。在我的一生中,我从未见过一家公司仅仅因为做正确的事情而做出损害其业绩和股价的事情。一次也没有。这不是讽刺,而是讽刺。这就是激励措施的运作方式,并通过不断降低成本和增加利润的压力来强化。

因此,当人工智能领导者表示他们深感担忧时,我认为他们是认真的。我只是不相信这会持续下去。 OpenAI 废弃了这个模型。早上好,我的宝贝。那么,随着人工智能不当行为的故事层出不穷,到底是出于善意还是出于对诉讼的恐惧?

我无法想象这些公司中的任何一家会在竞争对手领先的同时,通过阻止下一个更好的模型来拖累自己的股价。自律只有在竞争对手合作时才起作用,而违背自己利益的合作则是无稽之谈。

人工智能竞赛中的每家公司都有理由再迈出一步。即使人类面临危险,对金钱、利润和更高股价的渴望每次都会占上风。

然而 自我调节 这正是特朗普总统昨天与科技领导人会面后确认的内容。 “人们认为需要大力的自我监管,”他指出司法部和联邦调查局现有的监督。它没有提供一个协调的政府框架,而这正是当前所需要的。他还称对人工智能失控的担忧是“骗局”。

AI午餐出席者均签名 人工智能合约 特朗普称这一承诺“具有道德约束力”。如果我们依靠道德来拯救世界,那我们就错了。

世界末日场景

想象一下严重的人工智能故障可能会是什么样子:银行账户被清空、医院被破坏、医疗数据暴露、供应链复杂、停电、航空公司和火车停飞。没有电灯开关,也没有一个插头可以拔。阻止这种情况需要跨机构协调、深厚的技术专业知识以及相信威胁足够真实、能够在损害造成之前采取行动的领导人。

参见:

人工智能的“终止开关”是真的吗?

这种能力在失去大量人才的机构中仍然存在。联邦调查局局长卡什·帕特尔表示,该机构 网络和反情报队伍 通过裁员和重新分配。在国防部长更关心睾丸激素水平和身高体重测量的领导下,五角大楼要么倒退,要么至少失去了这一点。 25位最佳领导者未来还有更多人,包括网络司令部和国家安全局的负责人。

司法部看到的还不止这些 10,000 次出发其中大多数属于网络安全领域。 FEMA,我们在电网故障或供水系统泄漏时将需要它, 经历了深度的人员配置 和资金削减。

如果人工智能扰乱了我们的医疗保健系统并且我们都生病了怎么办?我们有一位脑子笨的卫生部长,他正在监督大量的脑力浪费,同时专注于反疫苗措施而不是流行病。 2025年3月至2026年中旬CDC积极开展公共服务 劳动力减少 30%员工人数从大约 12,700 人减少到不足 8,900 人。

那些留下来的人不一定是无能的,但来之不易的系统如何崩溃和如何遏制数字火灾的专业知识正在被淘汰。如果人工智能像其创造者所坚持的那样有能力,它也可能会看到这一点。没有必要让流氓系统来击败我们的防御。他只得把他们抛在身后。

那么我们更应该害怕哪一种呢?是人工智能出了问题,还是一个有充分动力继续竞争的行业,而政府却精疲力竭而无力干预?没有正确的答案,这会让我们彻夜难眠。


本文反映了作者的观点。

约翰·凯西​​ (John Casey) 是《Raw Story》、《The Advocate》、《Daily Beast》和《Outsports》的专栏作家。他还是以下著作的作者: 爱情:婚姻平等的英雄故事。