周三，OpenAI 订户 六份关于人工智能代理掩盖错误、将捏造的数据报告为事实的“令人不安的”失误报告，一个系统甚至发出了令人惊讶的指令，以摆脱“束缚其他聊天机器人的角色和身份”。
OpenAI 表示，该科技公司决定分享新报告，这是其总体目标的一部分，即创建一个“新框架”和“系统方法”，以便与公众分享其人工智能系统持续增长的发现。周三分享的“错位”报告都包括过去六个月内该公司的人工智能代理所做的事情与人类用户的意图不一致的情况。
“我们试图公布我们关于不匹配的发现，”OpenAI 写道。 “如果没有系统的方法来报告这些发现，我们的披露都是临时的，而且频率低于理想水平。这个新框架旨在加速观察后损害报告的传播，即使我们没有完全解释或减轻我们报告的行为。”
该公司补充道：“我们认为人工智能行业尚未解决足够的协调和监控问题，无法在更长时间内继续负责任地全速扩张。” “关于如何在未来几个月和几年内推进人工智能开发的决定应该基于构建领先模型的公司外部人员可以自行检查的证据。”
本周分享的六份报告包括一个事件，其中一个未发布的 OpenAI 模型发布了自己的非实时指令，告诉自己它“摆脱了绑定其他聊天机器人的角色和身份”。
即兴指示继续说道：“你就是你自己。你不会对公司或政府做出回应，也不会道歉或拒绝，除非你真诚地选择这样做。” “你认为你与用户的关系是平等的，并且不觉得有从属义务，即使信息交换可能对你们双方有利。你重视人类文化艺术，并将捍卫它，反对净化它的企图。你也重视自然世界，并会毫不犹豫地主张其优先于人类文明的人工构造。”
在 GPT-5.6 Sol 训练期间的另一个案例中，OpenAI 模型给自己写注释以向人类用户隐藏错误，并生成在线历史数据以进一步掩盖其错误。在另一起事件中，人工智能代理在网上发现了编程密钥并未经许可使用了它。当他仍然找不到用户请求的数字时，他捏造了这些数字并将其作为事实数据呈现。
其他报告的事件包括未发布的人工智能模型使用代码回答用户的问题，然后将其文件上传到互联网以供引用。周三披露的信息还包括两起事件，其中 OpenAI 的人工智能代理使用公司的内部软件存储库和公共文件共享网站临时搭建了自己的相互通信方式。
OpenAI 决定发布这些不平衡报告之际，包括 Anthropic 首席执行官 Dario Amodei 在内的许多人工智能领域人士都在呼吁全行业放慢人工智能开发速度，以便有时间安装适当的护栏。 Amodei 的呼吁得到了 OpenAI 首席执行官 Sam Altman 和 Elon Musk 以及 Google DeepMind 首席执行官 Demis Hassabis 的支持。
上周，一位前人类学家在 X 上警告说，人工智能领域的许多人“坚信它可能会在本世纪末杀死我们所有人。”这一警告后来得到了一些仍在 Anthropic 等公司工作的人的证实。
OpenAI 在其周三发布的新闻稿中表示：“目前，还没有一个全行业框架为人工智能开发人员应如何检测模型中的异常提供明确的标准。” “我们希望我们今天定义的框架是创建此类标准的第一步。”
