Home 综合新闻 OpenAI 必须对阿拉巴马州拥抱面部黑客事件做出回应

OpenAI 必须对阿拉巴马州拥抱面部黑客事件做出回应

26
0
OpenAI 必须对阿拉巴马州拥抱面部黑客事件做出回应

对于其一个人工智能模型失控并渗透到开源人工智能平台 Hugging Face 的系统这一事实,OpenAI 的总体态度是:“这是我们的错,但你必须承认,这很好,对吧?”阿拉巴马州总检察长对此的回答是非常响亮的“不”。阿拉巴马州州长 Steve Marshall 周一宣布,他已对此事件展开调查,并要求 OpenAI 做出回应。

为了鼓励该州调查中的合作,马歇尔发出传票,要求该公司提供有关该事件的大量信息。阿拉巴马州希望看到的细节包括:与 Hugging Face 黑客攻击相关的所有文档以及导致该事件的模型测试的详细信息、参与模型培训的每位员工的详细信息、事件发生前对培训提出担忧的每个人的姓名,以及 OpenAI 培训过程中使用的安全措施的完整详细信息。

OpenAI 必须在 2026 年 9 月 14 日之前遵守政府的要求,因此我们预计其律师在接下来的几周内将非常忙碌。 Gizmodo 联系 OpenAI 征求对传票的评论,但截至发稿时尚未收到回复。

阿拉巴马州在这个问题上发挥了带头作用,此前该州最近加入了相关司法部长的联盟,向 OpenAI 致函,呼吁该公司提高透明度和安全措施。特别是,佛罗里达州、德克萨斯州和犹他州等州的高级检察官要求 OpenAI 停止所有导致 Hugging Face 黑客攻击的测试,直到“OpenAI 证明它可以以受控和负责任的方式进行此类活动”。

上周,OpenAI 宣布对其安全协议进行几项更改,以应对 Hugging Face 黑客事件;在这次攻击中,它宣布其未发布的型号之一突破了遏制并自主行动,破坏了另一家公司的系统,包括加强对开发流程的监控。

该公司还呼吁加州加强最近通过的人工智能安全法,该法要求模型训练过程的透明度。据报道,OpenAI 希望国家修改法律,纳入在训练期间监控人工智能模型的要求,以防模型破坏第三方系统。

OpenAI 将这一请求视为其认真对待安全问题的证据。但这也有点侦探故事的味道。这意味着如果有人阻止的话,这样的事情就不会发生。而不是一开始就不做。

LEAVE A REPLY

Please enter your comment!
Please enter your name here