在研究人员在内部测试期间提出安全问题后，OpenAI 取消了下一代人工智能模型的发布计划。 新闻周刊 确认的。
OpenAI 发言人表示 新闻周刊 周一晚上，国防部长们决定不部署原定于 10 月份首次亮相的 GPT-6.1 Astra。结果最先报道 华尔街日报。
OpenAI 安全系统主管 Sachi Jain 在一份声明中表示：“对于任何与安全和一致性相关的事情，都需要进行权衡。你确实必须在避免模型实际继续执行任务的懒惰之间找到正确的界限，即使遇到摩擦也是如此。”
广告
广告
该发言人表示，GPT-6.1 Astra 在对准测试中的表现不如 Astra GPT-6。
Jain 补充说，该模型“在范围和认可度方面不符合标准，以及它如何与用户就其所做的工作类型进行沟通”。
这一决定是在人们越来越担心人工智能安全措施能否跟上该技术快速发展的步伐之际作出的。
OpenAI 首席执行官 Sam Altman 于 9 月 23 日在联合国安理会发表讲话，该技术在最近几周和几个月中呈现出新的紧迫性。
奥尔特曼在评论中表示：“人工智能可能是创造力和创新的新复兴，也可能是颠覆和颠覆的新工业革命。”
广告
广告
奥特曼表示，人工智能进步有两种可能“非常糟糕”的情况，应该避免。
他说：“首先，我们面临着失去对人工智能的未来控制的风险。”他警告说，技术可能发展得如此之快，以至于人们不再了解正在发生的事情或在需要时进行干预。
他说，第二个风险是人工智能系统“可能会将过多的权力集中在太少的手中”。
“没有人、组织或国家可以使用非常强大的人工智能模型将他们的世界观强加给他人，”他说。
周一早些时候，佛罗里达州总检察长 James Uthmeyer 宣布，他已向州法院申请临时限制令，阻止 OpenAI 及其首席执行官 Sam Altman 在没有第三方批准的安全保障措施的情况下推进新的人工智能模型。
广告
广告
“四个月前，佛罗里达州针对 OpenAI 和 Sam Altman 提起了全国首例全州范围的诉讼，”Uthmeyer 在视频中说道。 “我们说 ChatGPT 不安全、具有欺骗性，并且已经对佛罗里达人，特别是我们的孩子有害。”
拟议的禁令将限制未成年人访问 ChatGPT，并要求 OpenAI 在开发新的人工智能模型之前实施经第三方批准的安全保障措施。
OpenAI 此前曾表示，愿意放慢人工智能开发速度，以解决安全问题。 8 月，该公司表示将暂时缩减扩展工作，以加强对更高容量模型的监控、调整和安全保障。
发言人表示 新闻周刊 OpenAI 还有其他符合其安全标准的新模型“即将推出”。
广告
广告
新闻周刊 记者和编辑使用我们的人工智能助手马丁来准备这个故事。了解有关马丁的更多信息 这里。 请联系《新闻周刊》编辑了解此报道：Edward D. Cummins
相关文章
