人类刚刚采取行动，是为了保护克劳德的感情。这就是这意味着什么。

上周四，Anthropic 更新了 使用政策它的发展速度几乎与人工智能一样快，但最新版本中最突出的是重点保护人工智能代理免受人类侵害。

在题为“处理针对我们模型的虐待行为”的小节中，Anthropic 宣布将禁止“针对我们模型的持续且不必要的虐待或残忍行为”。这主要是由克劳德先发制人地结束对话来强制执行的。

Anthropic 很快指出，这些行动不会由“常见的用户沮丧、抵制、黑暗创意线索或模型测试和研究”触发。但很明显，现在出现了一种新的现状，无论人工智能代理是否有可能受到影响的情绪，它们的创造者都希望我们像对待它们一样对待它们。

到目前为止，使用云的限制主要围绕保护用户或服务某些版本的公共利益。例如，Anthropic 很快就对其特工可能从事的性幻想类型或试图收集有关暴力行为的信息进行了严格限制，从而（希望）防止他们自己参与未来的恐怖袭击或大规模伤亡事件。但最近的修订标志着保护重点的转变，从用户和有形的现实世界社区转向人工智能代理本身。

当然，所有这些都只是加剧了关于人工智能是否有意识的争论，这种争论比你想象的要广泛得多。后 纽约时报人类联合创始人和人工智能意识真相的支持者克里斯·奥拉（Chris Olah）最近向梵蒂冈和一小群宗教学者提出了他的观点，但他们最终拒绝了他的主张并拒绝站在他一边。

但不要指望他们的分歧会结束讨论。新的使用政策将于 2026 年 11 月 12 日生效，届时我们都会将人工智能视为具有感觉或冒犯能力，无论如何。