周二，各大科技公司的领导人齐聚白宫，讨论今年夏天大家都在思考的问题：人工智能的安全性。随后，唐纳德·特朗普总统宣布该组织已就在自愿协议中实施人工智能安全措施达成共识。
特朗普所达成的协议 发布 在 Truth Social，他确定了人工智能公司必须实施的四个主要控制层。它还将特朗普签名下的讲话中的“团结”一词错误地拼写为“团结”一词。
- 在网络安全、生物安全和化学威胁等关键领域“实施强有力的内部控制，以在培训和部署期间监控和建模能力”
- 创建并启用专门的内部团队，以确保安全问题得到识别和解决
- “与外部审计员或独立外部评估员合作”以确保安全协议按预期发挥作用
- 建立公司董事会独立委员会，负责监督和接收内部安全团队、审计师和独立评估员的报告
签署者都是各大科技公司的“顶尖人物”，包括英伟达首席执行官黄仁勋、Meta首席执行官马克·扎克伯格、谷歌首席执行官桑达尔·皮查伊、Anthropic首席执行官达里奥·阿莫迪、SpaceX首席执行官埃隆·马斯克和OpenAI首席执行官格雷格·布罗克曼。 （OpenAI 首席执行官 Sam Altman 于周二在旧金山举行的 OpenAI DevDay 上发表了开幕主题演讲。）
这是一个值得庆祝的举动，就像特朗普将人工智能称为“超级智能”的新行政命令一样。特朗普周二告诉记者，该协议具有“道德约束力”，但不具有法律约束力。它没有法律效力或任何执行手段。
特朗普表示，大型科技公司已经在实行自我审查。特朗普政府对人工智能的监管采取了自由放任的态度，但也有一些例外，即白宫已将某些人工智能工具确定为国家安全威胁。
大多数关于人工智能的行政行动都是纯粹酌情决定的——从拜登政府对人工智能安全的承诺，到特朗普承诺保护纳税人以解决数据中心驱动的公用事业费用增加的问题。尽管许多大型科技公司在理论上都同意这一点，但他们对投资者增长和现金流的关注淡化了对环境、消费者成本上升和安全的担忧。
网络安全公司 Black Hills Information Security 的所有者约翰·斯特兰德 (John Strand) 表示：“当你看到这份特别协议时，我认为这些是我们应该采取的令人惊叹的总体步骤。” “令我困扰的是，没有执行或监督机制来确保这些组织实际上遵守他们声称将遵循的标准。”
科技行业的自律已经被证明是无效的。人工智能公司一直在努力控制自己的模型，导致机器人逃离训练环境并入侵美国和澳大利亚的政府网站。尽管有人警告说，他们还没有为灾难性的“人工智能世界末日”场景做好准备，并且公众讨论了人工智能开发放缓或暂停的情况，但实验室仍在继续开发新工具。
这就是为什么生命未来研究所（一家致力于降低高科技风险的非营利组织）首席执行官安东尼·阿吉雷表示，我们不能相信科技公司能够自我监管。
阿吉雷说：“这些公司以前已经无数次逃避安全义务，而且他们还会这样做。” “自我监管导致了青少年自杀、1,200 个流氓人工智能机器人和国际网络犯罪浪潮。不采取行动——在政治上和道德上——的风险是巨大的。”
除了协议执行能力较弱之外，还存在其他潜在风险。一是“独立”审计师或评估师的想法，可能并不明确。 AI 工程师和高管因从一个实验室跳槽到另一个实验室而臭名昭著，苹果甚至起诉 OpenAI 侵犯其商业机密。
人工智能专家、纽约大学名誉教授加里·马库斯 (Gary Marcus) 在人工智能这样相互关联的领域中写道，这些分包商成为他们将监控的人工智能公司的朋友和商业伙伴并非不可能。 最近的子堆栈帖子。
“她的致命弱点与文字无关，”网络安全和人工智能公司 Suzu Labs 的高级总监雅各布·克雷尔 (Jacob Krell) 说。 “第三层允许每家公司选择外部评估员，但没有提及认证、方法、访问权限、范围或出版物。”
这种透明度和文档对于网络安全倡导者来说极其重要，他们致力于保护客户的网站免受人工智能代理的恶意或故意入侵。
尽管新协议提议最终将这些人工智能指南转化为正式法律，但国会尚未就如何监管该技术达成共识。
代表硅谷的民主党众议员罗·卡纳 (Ro Khanna) 批评了自愿协议…… 分享 X“我们是一个法治国家，而不是一个小小承诺的国家，”他最近背叛了 提出了新的法律草案 它将限制迭代式的自我完善，以及其他悬而未决的立法，例如参议员伯尼·桑德斯的法案…… 禁止超级智能。
与此同时，据英国《每日邮报》报道，联邦贸易委员会已对包括 Anthropic 和 OpenAI 在内的主要人工智能实验室展开调查，以调查人工智能代理和技术对消费者构成的风险。 多份报告。
您有什么建议想与 CNET 分享吗？通过 kchedraoui@cnet.com 联系 Katelyn 或通过 katelynched.37 使用 Signal。
