人工智能领导者表示他们想要更多的安全性。他们想要的不止于此。

随着人工智能安全焦虑的加剧， 管理边境实验室的管理人员数量 明确表示他们希望并且需要更好的行业标准来遏制潜在危险的技术。

但专家表示，就像任何希望为自己的公司获得最优惠条件的行业领导者一样，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)、OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 和谷歌 DeepMind 联合创始人德米斯·哈萨比斯 (Demis Hassabis) 等人工智能领导者希望在制定他们寻求的标准方面发挥重要作用。

“我认为最近发生的事情是，他们已经接受了这样一个事实：他们实际上无法保护这些东西，”未来生命研究所首席执行官兼总裁安东尼·阿吉雷 (Anthony Aguirre) 告诉 Mashable。该非营利组织致力于预防变革性技术的极高风险。

然而，阿吉雷补充道，新的开放性也带来了一个问题：“他们肯定希望控制整个过程。”

对于领先的人工智能公司来说，这可能是自我监管，以及其条款的透明度和问责制以及围绕反垄断法的保证。

AI公司想要通用人工智能

阿吉雷表示，尽管承认新出现的危险安全问题，大型人工智能公司仍然不会放弃实现通用人工智能（AGI）的目标。

阿吉雷解释说，这种形式的人工智能将匹配或超越人类智能，并可能导致许多人类工作被自动化取代，同时人工智能决策者的崛起将取代人类的领导地位。

“他们希望拥有一种机器驱动的未来，”阿吉雷说。 “这不是大多数人想要的。”

正如阿莫代最近向您描述的那样，呼吁进行边境游行 人工智能安全风险个人论文它们不包括暂停对 AGI 的追求。

阿吉雷认为这是一个错误。相反，他说，人工智能公司应该“彻底改变方向”，不再尝试创建通用人工智能，尽管他承认他们可能会拒绝它。

人工智能公司想要什么来换取安全标准

自律

人道技术中心高级政策和研究经理 Pete Furlong 告诉 Mashable，该行业推动自我监管已经有一段时间了。

“我们看到他们谈论在某些方面进行监管的必要性，但我认为他们的行动并不总是支持这一点，”他告诉 Mashable。弗隆补充说，顶级公司希望保护其“行业领先地位”，并且可能正在寻找在“闭门系统”中运营的方法，而无需公众对风险和解决方案进行太多投入。

在一个 七月 Substack 安全帖子谷歌的哈萨比斯建议美国按照现有联邦监督的公私合作伙伴关系或自律组织的方式创建一个标准机构。哈萨比斯以金融业监管局为例表示，该标准局将领导模型评估协议的开发，并与联邦机构专门就国家安全测试进行合作。

阿莫代在他的文章中写道，Anthropic 支持“对人工智能进行合理且有针对性的监管”，特别是在透明度和第三方审计方面。阿莫迪承认立法过程漫长，还支持人工智能公司自愿制定标准，然后由“嵌入式”第三方评估人员进行审查。 Anthropic 单方面承诺依靠这些评估人员来开展安全工作。

尽管如此，专家警告不要只看表面上的安全措施。

民主与技术中心人工智能治理实验室的高级技术专家马特·奥肖内西 (Matt O’Shaughnessy) 告诉 Mashable：“虽然人工智能开发人员对独立评估的支持确实向前迈出了一步，但还需要额外的机制来实现有效的问责。”他补充说，如果人工智能监督仅由独立评估组成，这将“对问责制产生净负面影响”。

透明度和问责制有限

弗隆称赞 Anthropic 最近发布了一份关于人工智能带来的风险（例如生物武器和大规模监视）的全面安全报告。他还表示，OpenAI 让独立研究人员调查 Hugging Face 事件是“值得称赞的”，在此期间，OpenAI 特工对另一家公司进行了黑客攻击。然而，弗隆表示，OpenAI 也“严重限制”了调查，包括时间范围限制。

虽然这些都是实现透明度的合理步骤，但弗隆认为期待更多是公平的。

“不能完全由这些公司决定其透明度条款，”他说。

虽然 OpenAI 和 Anthropic 已经 都支持 书面透明度阿吉雷表示，人工智能公司的行为并不总是符合他们的公众立场。

阿吉雷说：“我认为他们的言论与游说团体私下所做的事情之间存在巨大脱节。”

主要人工智能公司也反击了让他们对最坏情况负责的尝试，例如当用户咨询时 大规模枪击聊天机器人, 他从中得到了危及生命的医疗建议或者向她吐露自己有自杀倾向，并接受有关如何结束自己生命的建议。

“公司试图逃避任何有意义的责任，存在很多潜在的担忧，”弗隆说。

反垄断保证

作为领先的人工智能公司 齐聚一堂讨论安全问题和解决方案他们还担心这可能会让他们面临反垄断诉讼。

阿莫代在他最近的文章中说 政府应干预或促进标准制定讨论。他补充说，政府必须发布“狭隘豁免”，允许进行特别安全谈判。

阿吉雷表示，他同意这些公司在本案中的观点。如果豁免措辞谨慎，适用于安全讨论，而不是适用于将小型人工智能公司排除在外的协同活动，阿吉雷认为，要求澄清反垄断法是合理的。

事实上，正义审判律师本周提起的集体诉讼声称， Anthropic、OpenAI、Google 和 SpaceXAI 的协调放缓违反了反垄断法。

主要结论

阿吉雷认为，虽然许多人工智能领导者对安全问题的担忧是正确的，但他们的提议并没有对接下来的发展提出截然不同的愿景。

阿吉雷说：“这些公司正在建造一些他们知道不安全或无法控制的东西，而且他们在做这些事情时没有采取我们适用于任何其他潜在危险行业的任何正常控制或法规。” “他们要求我们让他们做同样的事情，但我们只是帮助他们一点，让事情变得更安全。”

蔡斯·迪贝内代托 (Chase DiBenedetto) 的补充报道。

披露：Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和运营其人工智能系统时侵犯了 Ziff Davis 的版​​权。