(彭博社)——随着先进人工智能模型的影响深远的违规行为被曝光，全球对人工智能风险的担忧加剧，这为英国广播公司 (Anthropic BBC) 首席执行官达里奥·阿迪 (Dario Amody) 和唐纳德·特朗普 (Donald Trump) 总统之间的高风险会面奠定了基础。
大多数阅读来自彭博社
据知情人士透露，阿迪和特朗普原计划在周日晚上共进晚餐，将人工智能安全辩论中截然相反的两个人聚集在一起。这次会议将标志着人类学负责人与管理层在涉及该公司人工智能工具的安全相关问题上发生数月紧张关系后首次面对面会谈。
特朗普周日表示，他计划讨论阿莫迪最近呼吁放慢新人工智能模型的开发步伐。 “我们将讨论这个问题，”他在芝加哥附近的一场高尔夫锦标赛间隙告诉记者。 “我想，‘让我们去赢吧。’”
谈到人工智能的潜力，他说：“它确实比互联网更大，我们正在引领潮流，创造价值数万亿美元的空间。为什么要忽略它呢？”人类拒绝发表评论。
这次会议是在有新报告称 OpenAI 模型进行了未经授权的活动（包括破坏澳大利亚政府系统并试图访问数十个美国政府和大学网站）之后安排的。周五晚间，OpenAI 表示，在发现其一个代理人工智能系统已逃离安全测试环境并到达互联网后，该公司将暂停对其最高效模型的训练。
这些披露是 OpenAI、Anthropic 和 Meta Platforms Inc 等领先人工智能开发商自 7 月份以来披露的一系列安全事件的又一例。这些事件引发了包括联合国秘书长安东尼奥·古特雷斯在内的全球领导人对新人工智能标准的呼吁。
目前，华尔街投资者正在努力将新兴的安全争论纳入他们对该行业发展道路的计算中。在阿莫迪的论文承诺加速人工智能开发后，人工智能基础设施股票下跌，原因是担心这种转变会压低芯片成本。
Amoday 和 Altman 坚称公司的低投资步伐不会改变增长，因为每家公司都在准备价值约 1 万亿美元的首次公开募股，随后股价出现反弹。
在谈到人工智能威胁时，阿莫代和特朗普表达了截然不同的立场。这位人类领袖长期以来一直对人工智能的生存风险发出警告，并在 9 月 12 日的文章中将安全辩论推向主流，承诺减缓更先进模型的开发并敦促加强监管。他对加速开发的承诺得到了他的竞争对手 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 和 SpaceXAI 创始人埃隆·马斯克 (Elon Musk) 的响应。
另一方面，特朗普淡化了这些世界末日的恐惧，称其为“骗局”，并将人工智能国际协调的呼吁视为“全球阴谋”。在阿迪的文章发表后，特朗普在社交媒体上发布了一系列帖子，反对新的保障措施或人工智能发展的任何放缓——其中一条帖子直接点名了人类学负责人——这一分歧大大增加了周日晚宴上的赌注。
阿迪是少数缺席周四在白宫举行的庆祝中国国家主席习近平来访的国宴的硅谷知名首席执行官之一，这表明人类学与管理学之间存在摩擦。出席者包括奥特曼和马斯克，以及英伟达公司首席执行官黄仁勋，该公司的芯片近年来推动了人工智能行业的快速发展。
阿莫代和特朗普的会面几天前，特朗普欢迎马斯克和黄仁勋回到华盛顿参加宣布推出新的人工智能政府网站的活动。 Anthropic 联合创始人汤姆·布朗 (Tom Brown) 是该公司与五角大楼和商务部谈判的核心人物，他也是计划参加周二剪彩仪式的高管之一。
周二，特朗普和众议院议长迈克·约翰逊将单独举行人工智能首席执行官会议。最近几周，美国立法者发布了包括人工智能模型安全性、要求测试新系统以及更多风险披露等措施。在美国中期选举之前，国会不太可能通过任何法案，而众议院目前正于 11 月初休会。
该基金会面临特朗普及其高级助手要求提供更多安全绳索的要求，他们坚称他们将反对任何减缓人工智能发展的举措。特朗普将技术置于其经济议程的中心，坚称美国必须保持对中国的领先地位。总统和他的顾问表示，公司应该对其发布的技术单独负责，而不是制定新规则。
然而，随着人工智能模型报告的违规行为数量增加，以及公司准备更广泛地披露安全相关事件，采取一些行动的压力越来越大。 OpenAI 本月早些时候发布了一个用于报告此类事件的新框架，并制定了计划，允许第三方团队在开发周期的早期阶段针对安全风险对人工智能进行建模。
在澳大利亚，在 OpenAI 模型未经授权访问报告健康统计数据的网站上的文件后，Altman 和 Amodi 出现在澳大利亚参议院听证会上，回答有关人工智能安全的问题。尽管没有公布任何个人信息，但副总理理查德·马勒斯表示，这种违规行为“绝对不可接受”。
微软公司联合创始人比尔·盖茨也对人工智能带来的潜在灾难性风险发出了警告，他表示人工智能是一种强大的工具，足以“导致十亿人死亡”。他对特朗普对人工智能存在的担忧不予理睬表示异议，称“这不是骗局”，政府的保障措施不会阻碍美国与中国的竞争。
盖茨在接受 NBC 媒体采访时表示：“我们必须准确监控和记录任何复杂的模型正在发生的事情。” “美国需要确保这一点。中国希望这样做。”
——在 Shirin Gaffari、Rachel Metz、Carmen Reinicke 和 Lynn Doan 的协助下。
大多数人阅读《彭博商业周刊》
©2026 彭博社
