Home 娛樂 OpenAI 模型失控了。调查它们需要更多的人工智能

OpenAI 模型失控了。调查它们需要更多的人工智能

14
0
OpenAI 模型失控了。调查它们需要更多的人工智能

“我们没有好的方法来理解/监控人工智能‘群体’的活动和目标,” 写道 格林布拉特

报告称,对独立人工智能研究人员的依赖部分是因为他们是一个只有三人的团队,他们在 OpenAI 的研究最初计划持续两天,但后来在他们对有限的时间和不完整的数据提出担忧后扩大到六天。

OpenAI 周三单独发布了自己关于该事件的技术报告。该公司在八月份表示,已将一些员工从能力工作转移到调整工作,并暂停了一些培训,直到可以更好地缓解问题为止。

但依靠独立人工智能调查人员来了解“抱脸”事件是一个更大趋势的缩影。领先的人工智能公司本身越来越依赖人工智能来监控自己的系统是否存在违规行为。