在一篇长文中 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 周六上午发帖表示，AI 行业应该刻意放慢 AI 发展的步伐。阿莫迪提出了一项他称之为“打破界限”的三阶段计划，这是一家致力于史上最大规模首次公开募股的公司负责人发出的令人震惊的信息。
在 Amodei 分享有关 X 的文章后不久，OpenAI 首席执行官 Sam Altman 公开接受了竞争对手的提议。 “我同意达里奥的观点，我们需要打破界限。这是我们最近几周在 OpenAI 上讨论的中心主题。”
此推文当前不可用。它可以被安装或移除。
在他的个人网站上，阿莫迪围绕最近的两项发展提出了自己的论点，他说这两项发展说服了该行业需要更加谨慎。首先是今年夏天以来人工智能能力的急剧加速；这种现象被称为递归自我改进，由越来越多地用于帮助创建下一代人工智能的模型驱动。第二个也是更值得注意的问题是 OpenAI-Hugging Face 事件，其中一群流氓 AI 代理从安全沙箱中逃脱并攻击第三方。
这就是为什么 Amodei 想要提供修复方案，但明确表示不想冻结模型训练。阿莫代提出的三点计划如下：
-
Anthropic 将单方面向外部评估者（例如安全组织 METR）提供永久性的、类似员工的访问权限，以验证他们的做法，类似于银行监管机构有时与金融公司合作的方式。
-
民主国家的人工智能公司应该就共同的安全标准进行协调。
-
第三，也是最困难的一点，他希望这种协调能够在全球范围内扩大，包括在中国境内，同时怀疑北京是否会可信地遵守。
他还将此与一些鹰派要求结合起来，例如继续限制对中国的芯片出口以及针对模型盗窃采取更严格的安全措施。阿莫迪认为这些是维持美国对“独裁政权”的领导地位所必需的，同时也为工业安全发展提供了空间。
可混搭光速
在真空中，这是一位伟大的人工智能首席执行官想要的事情；这是业界一场关于谁来定义人工智能安全政策的更大规模斗争的一部分。几周前 OpenAI — 反对 加州 SB 53 边境人工智能安全法案——扭转方向并呼吁改革法律 强化的 抱脸事件发生后。 一位分析师告诉《财富》杂志： 此举可能是真实的，但它也可以通过提高较小竞争对手的门槛来帮助 OpenAI 巩固其领先地位，并向监管机构发出在自身遭遇挫折后的严肃信号。
TechCrunch 笔记 鉴于 OpenAI 首席执行官 Sam Altman 和 Amodei 之间的“明显敌意”以及对协调放缓的担忧，领先实验室之间的协调似乎不太可能 可能会引发反垄断调查。
此外，据报道，Anthropic 计划于 10 月中旬在纳斯达克上市，估值可能达到近 2 万亿美元。一篇引人注目的文章显示该公司具有独特的安全意识，这可能是一个福音，因为它向外部评估者敞开了大门。
所有这些都不能证明阿莫迪的核心关切是错误的。实验室研究人员 标记类似风险。就在本周，一名 Antropik 员工离开了公司， 他公开指责 Antropik 鲁莽“失控”AI警告。
披露：Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和操作 AI 系统方面侵犯了 Ziff Davis 的版权。
