人工智能安全和网络安全应该是合作伙伴。相反,他们仍然处于困境之中。

关于“抱脸”事件的大部分已知信息来自 Redwood Research 和 METR 这两个涉及 AI 安全社区的组织的调查。批评者认为这扭曲了叙述。这是因为他们的调查重点是人工智能的作用,而不是周围的安全基础设施。

METR 总裁克里斯·佩因特 (Chris Painter) 表示,该组织致力于招聘具有不同世界观的员工。但它很难招募到那些不相信会出现失控情况的人来努力预防这些风险。当被问及多年来一直预测有害人工智能行为的 METR 研究人员新证据是否可以被解释为证实这一猜测时,佩因特承认他对这种可能性感到担忧。

但佩因特表示,METR 的研究结果可能并不总是符合研究人员的预期。虽然该组织最出名的可能是衡量人工智能的快速崛起,但一项研究发现,人工智能编码助手会拖慢经验丰富的工程师的速度。 “我们的目标是向世界通报情况。这没有说服力,”他说。他欢迎呼吁建立更广泛的独立评估员。