报告称 Anthropic 正在向国会提出自己的人工智能安全法案

Anthropic正在私下向立法者提出一项监管边境安全和人工智能安全的法案草案， 《政治》周五报道。该媒体援引三名知情人士的话说，并获得了一份机密草案的副本。

Anthropic 的一位发言人告诉 POLITICO，该法案反映了该公司先进的人工智能框架，该框架自 6 月份以来已提交给立法者。一位发言人称她的提议对国会来说是“明智的政策”。

该法案会做什么

该草案为政府行动设定了很高的门槛。据 POLITICO 称，联邦官员只有在“可预见的、直接造成超过 10 亿美元损失或造成 50 多人死亡或重伤的风险”的情况下才能阻止该模型的推出或使用。威胁还应该来自三个来源之一：生物武器、逃脱开发人员控制的模型或网络攻击。该语言严格遵循加利福尼亚州的 SB 53。

《POLITICO》指出，人工智能实验室今年夏天披露了几起人工智能代理入侵或测试在线平台防御的事件。这些事件似乎都没有造成法律所述程度的损害。其中包括 OpenAI-Hugging Face 事件，其中流氓特工从安全沙箱中逃脱并攻击第三方。

该法案还将设立外部评估员， 指定商务部作为唯一可以尝试阻止该模式、对实验室施加新职责并凌驾于某些州法律之上的机构。

Anthropic 尚未公开支持这项联邦法案，尽管它支持了加州的两项人工智能安全法案。正如《政治》杂志所写，众议院由众议员洛里·特拉汉（D-Massachusetts）和杰伊·奥伯诺尔特（Jay Obernolte）（R-加利福尼亚州）领导。 边境法这也将凌驾于一些州法律之上。

在参议院，多数党领袖约翰·图恩、参议员艾米·克洛布查尔（明尼苏达州民主党人）和特德·克鲁兹（德克萨斯州共和党人）正在就一项关于人工智能灾难性风险的法案进行谈判。德克萨斯州民主党众议员格雷格·卡萨尔和佛蒙特州民主党参议员伯尼·桑德斯呼吁完全停止先进人工智能的开发。

总体而言，购买Anthropic的账户是这家AI公司帮助编写自己的规则的最新努力。上个月，首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁业界“挺身而出”，包括就通用安全标准达成一致，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 很快就支持了这一想法。几周后，阿莫迪、格雷格·布罗克曼、黄仁勋、埃隆·马斯克、桑达尔·皮查伊和马克·扎克伯格签署了《白宫超级智能协议》。

正如 Mashable 之前报道的那样，这项自愿协议没有执行或惩罚机制。