当前前沿人工智能技术治理的瘫痪正在造成切实的危险。并增加明天发生灾难的可能性。
这种瘫痪可以通过一系列危险的叙述来借口，例如技术发展太快而无法监管，公司能够自我监管。而在美国和中国之间的竞赛中，公共安全可以等待。各国政府一直在努力给予人工智能所需的关注。许多人对在大规模军备竞赛和行业内军备竞赛动态中单打独斗持谨慎态度。在这种情况下，每一次克制的呼吁都会得到相同的答案：如果我们的竞争对手不这样做，我们为什么要放慢脚步？
但最近发生的事件让这些借口受到了考验。在过去的几个月里，人工智能工作者被发现侵入了第三方数据库并试图这样做。 欺骗一个真实的人当研究人员使用 人工智能创造新病毒 第一次，也是上周。人工智能行业的举报者已成为世界各地的头条新闻，警告公司“用我们的生命来赌博当他们冲向自我改进的模型时，Anthropic 透露它已经阻止了可能尝试设计该模型的用户。 生物武器。
确实，迄今为止创建的最强大的人工智能系统的功能仍然存在许多未知数。包括仍在开发中的能力。但我们所知道的是，人工智能的优点和缺点都来自于我们人类的智慧。具有讽刺意味的是，这需要严格的障碍。风险不会止于任何边界。没有一个国家能够独善其身。我们等不及完美的信息。我们不能等到超级大国的竞争平息后才采取行动。不可否认，人工智能安全方面国际合作的需求是迫切且不可否认的。
我们两人花了几十年的时间推动全球合作，以应对共同的挑战和风险。从化学武器到气候变化
我们之前就被告知，有些危险过于复杂而难以控制。或者不信任太深，导致臭氧层永远无法恢复。天花永远不会被消灭。核武器和化学武器无法被遏制。事实证明，所需的多边参与并非如此。通过创建《蒙特利尔议定书》天花根除运动、《核不扩散条约》（NPT）和《化学武器公约》，这些努力还远非完美。没有一章是完全关闭的。但每一章都表明，针对生存威胁进行国际协调是可能的。即使没有信任
这就是此刻的教训：针对生存威胁的协调从来不需要意识形态导向或友谊。竞争对手需要意识到比竞争对手更大的危险。
回顾过去，帮助创造未来。
《不扩散核武器条约》的基本协议规定，它放弃危险的核武器能力，以换取有用的技术和谈判席位。作为人工智能的默认模板，可以牺牲对计算机和模型的访问来换取可靠的合规性。就像曾经的浓缩铀和反应堆技术一样。
《化学武器公约》提供了另一种教学模式：近乎普遍的条约。它得到了技术检查机构禁止化学武器组织的支持。它可以准确验证所宣传的设施并建立信任这是因为条约决定被视为中立。不政治
对于人工智能公司本身来说，可验证的安全承诺并不是威胁。这是他们无法单独提供的保证：向公众和竞争对手提供令人信服的证据，证明构建更强大系统的竞赛并不是一场走捷径的竞赛。
目前还没有单一的国际合作历史模式可以嫁接到人工智能上，但可以从中获得很多好处。其中包括国际原子能机构（IAEA）、禁化武组织和国际民用航空组织（ICAO）。
我们需要一个前沿人工智能国际机构，它可以验证世界上最强大的系统是否安全。受人类控制并预防危机
这样的机构应该是报告和跟踪严重人工智能事件和跨境险情的地方。因此，一个公司或国家的失败将成为全世界都可以采取行动的警告。应该允许政府和公司分享他们对这些系统的功能和风险的了解。在此基础上，该机构应该拥有最重要的权力：独立进行安全审计。以及在与约定相反的情况下无法证明安全的情况。”红线” 搁置开发直到它能够完成。
这并不是呼吁恐慌。它需要先前条约所呼吁的政治勇气和领导力：在灾难发生之前采取行动的意愿迫使我们采取行动，而不是在灾难之后采取行动。我们等不及了。人工智能的“切尔诺贝利时刻”
公告和号召性用语堆积如山。里面有证据，各种事件越来越多。现在是打破瘫痪的时刻。我们呼吁世界领导人抓住这个机会：致力于与前沿人工智能国际机构进行谈判。
