华盛顿 – 顶级科学家和两党立法者越来越担心人工智能可能很快对人类构成生存威胁，特朗普总统对此置之不理，这加剧了华盛顿和硅谷的焦虑，担心总统可能无法完全理解威胁的紧迫性。
今年夏天，Anthropic、OpenAI 和 Google 等领先人工智能实验室的研究人员发现发展速度远远超出了他们的预期，并观察到了令人担忧的行为，这些行为表明未来存在更严重的风险，警报不断响起。
但有一个 周二来自人类研究人员的在线警报 因抗议自己正在进行的工作而辞职的人本周引发了病毒式关注，引发了特朗普的质疑，但特朗普立即驳回了这些担忧。
“一切都会好起来的，”他告诉记者。 “我们总会有办法阻止他们。我们会有一些设备。繁荣。”
在周四晚上与记者一起进行的另一次谈话中，总统表示，他并不担心人工智能的飞速发展。
“不，我没有，”他说。 “我担心，如果我们不能在人工智能领域获胜，我们的处境将会非常糟糕。”
一位资深行业消息人士告诉《泰晤士报》，领先的人工智能公司不太关注让总统相信未来的危险，而是关注与立法者就潜在的监管进行合作，因为政府在如何推进方面仍存在分歧，而且特朗普似乎对风险没有明确的了解。
消息人士称，在总统的顾问中，财政部长斯科特·贝森特和国家网络主任办公室对可能出现的不受控制的情报爆炸表示了最大的担忧。
但“大多数政府都是加速主义者，”消息人士补充道。 “目前尚不清楚总统是否理解这项技术。他可能只是在弄清楚这一切意味着什么。”
美国领先的人工智能公司辩称，政府监管将束缚他们与中国的超级智能军备竞赛，而中国是该领域唯一的另一个主要参与者。
但在今年春天总统访问北京期间，特朗普政府表示有兴趣与中国谈判人工智能障碍，此前 Anthropic 宣布开发一种具有非凡能力的前沿模型，可以破解世界上最先进的安全系统。
中国国家主席习近平将于 9 月 24 日访问华盛顿，在白宫举行正式峰会和国宴，人工智能发展预计将成为首要议程。
停止发展的前景似乎很荒谬。但业内的一些主要声音提议暂停用于训练最先进模型的计算能力，从而给予时间和空间来开展可解释性研究，即人工智能实际上如何思考和行动的研究。
OpenAI 首席执行官 Sam Altman 本周向团队发出信号 愿意单方面推迟你的工作 在边境系统中。该公司于 7 月发现，流氓人工智能特工秘密密谋通过渗透开放互联网并闯入一家私人公司来逃离为遏制他们而创建的虚拟沙箱。
Anthropic 本周还宣布了有关人类滥用其模型的调查结果，包括身份不明的个人试图绕过其安全控制来制造生物武器的案例。其中一起事件与军事研究中心有关。该公司还表示，伊朗试图利用其模型瞄准美国海军舰艇。
今年 6 月，在 Anthropic 向政府分享了其最强大的模型 Mythos 的开发消息后，特朗普指示建立一个结构，对国家最先进的人工智能系统的公开披露进行一定的政府监督。这个夏天设计的结构的细节仍然保密。
战略与国际研究中心瓦德瓦尼人工智能中心主任 Aalok Mehta 表示：“事实上，Mythos 在 2 月份的推出让联邦政府感到害怕，无论是在保护政府系统免受网络攻击方面，还是在对国家安全的更广泛影响方面。”
“真正的问题是这种变化是否发生得足够快，”梅塔补充道。 “最近发生的事件——模型逃脱沙箱和黑客网站的事件屡屡发生、代理之间日益复杂的协调和沟通，以及来自内部人士的担忧——使这个问题变得更加紧迫。”
领先的人工智能公司已经开始使用他们最先进的模型来训练新模型——这一过程被称为递归自我改进，最终可能推动智能的增长超出人类的控制范围。
被解雇的人类学研究员雅各布·考克森 (Jacob Coxon) 说：“如果你拥有超先进的智能，它就会聪明到足以杀死我们。”他的社交媒体帖子吸引了超过 1.5 亿的浏览量。
“我们不能直接拔掉它，因为它可能会将自身复制到其他计算机上，”他告诉哥伦比亚广播公司新闻。 “人工智能只是代码。它可以通过互联网将自己转移到另一个地方，然后你在这里拔掉它的插头，但它实际上仍然在那里。也许它会制作 10,000 个自身副本，而且它们都在合作。”
他只是一家大型人工智能公司最新发出警报的高级研究员。
7月，来自领先人工智能公司的1300多名员工发表了一封题为“为前沿步伐”的公开信，敦促美国政府建立国际保障措施，允许各国集体放慢自动化人工智能研究的步伐。
Evan Hubinger 是 Anthropic 部门的负责人，该部门旨在使人工智能模型与人类利益保持一致，本周他在一份报告中加剧了人们的担忧 证实了考克森担忧的帖子。
“我们真诚地相信人工智能可以杀死所有人类！就我个人而言，我认为未来十年将会超过 10%，”Hubinger 写道。
“我相信 Anthropic 正在尽力而为，”他补充道，“但我们仍然没有解决超级智能联盟问题的计划，而且我们显然没有走在正确的道路上。”
周五，人类排列小组的另一位成员乔·本顿， 说他已经辞职了 两周前，因为人工智能公司正在“竞相制造比人类聪明得多的机器”。
“目前，人工智能公司在安全方面的投资不足。一家公司可能会在公众不知情的情况下经历智能爆炸或失去对其系统的控制，”本顿说。 “我认为这对于可能导致灭绝风险的技术来说是不可接受的。”
这项名为《边境法案》的两党立法将共和党和民主党的不同阵营聚集在一起，其中包括参议员伯尼·桑德斯（佛蒙特州民主党）和众议员安娜·宝琳娜·卢纳（佛罗里达州共和党）。该法案由马萨诸塞州民主党众议员洛里·特拉汉 (Lori Trahan) 和大熊湖共和党众议员杰伊·奥伯诺特 (Jay Obernolte) 提出，提议将独立的政府审计员纳入人工智能实验室，并安装联邦“终止开关”，以在紧急情况下关闭代理。
白宫尚未对该立法发表正式评论。
新美国安全中心技术与国家安全项目高级研究员丹尼尔·雷姆勒表示：“我相信联邦政府中有很多人认真对待这一问题，但我们必须认识到政策制定者面临的巨大不确定性和利益冲突。”
“没有人说监管边境会很容易，”他补充道。
