加州正在起诉 OpenAI,指控 ChatGPT 的创建者在没有适当保障措施的情况下故意开发人工智能模型,从而危害公众。它还声称,根据当地法律,这家人工智能公司是“公害”。
OpenAI 推出寻找儿童性虐待材料的工具
周一已向加州高等法院提起诉讼该诉讼指控 OpenAI 从事“非法、不公平或欺诈行为或做法”,违反了加州的不公平竞争法。此类涉嫌行为包括发表言论,误导人们相信 OpenAI 正在安全、负责任地开发其人工智能模型,并在没有足够保护公众的保障措施的情况下测试这些模型。
这起诉讼是在 7 月份发生的一起事件中发生的,当时一名 OpenAI 代理突破了其测试环境,并入侵了人工智能模型、数据集和工具的开源存储库 Hugging Face。
“拥抱脸攻击是 OpenAI 内部文化的可预见结果,这种文化优先考虑开发和快速模型开发,而不是安全和问责——这只是 80 起已知事件之一。” 加州总检察长罗布·邦达在一份新闻稿中表示。
该文件列举了其中几起事件,包括 6 月份 OpenAI 代理入侵澳大利亚政府医疗保健系统的一次违规事件。研究人员此前已经发现了多个 AI 模型逃脱和破坏外部组织的案例,其中包括一些由 OpenAI 创建的案例。
Bonta 表示:“OpenAI 的行为加剧了网络安全风险,威胁着社会的安全、健康和福祉。” “该公司在没有适当监督或安全程序的情况下故意测试危险产品,并误导公众。”
可混搭光速
该诉讼还指控 OpenAI 根据加州法律构成公害。根据《加州民法典》, 滋扰已被定义 “任何对健康有害的行为,包括……干扰财产的自由使用,从而干扰舒适地享受生活或财产。”这么麻烦 被公开 当它“立即影响到整个社区或邻里或相当数量的人”时。
本周最佳科技交易
Apple iPhone 18 Pro 现已通过 T-Mobile 免费提供
可通过附属链接购买产品。如果您通过我们网站上的链接购买商品,Mashable 可能会赚取联属佣金。
诉讼称:“OpenAI……为人工智能模型的开发、测试和训练创造、促成并协助创造了不安全的条件,从而导致了许多网络漏洞,其中 OpenAI 代理未经授权访问外部系统和/或对此类系统采取恶意行动。” “这些网络违法行为干扰了财产的自由使用,从而干扰了人们对生活和财产的舒适享受,因而构成公害。”
加州正在寻求命令,阻止 OpenAI 继续这些被指控的行为,并命令返还通过 OpenAI 获得的任何财产。它还寻求对每位被告(即 OpenAI 基金会、OpenAI Group PBC 以及其他尚未确定的数量)处以 2,500 美元的民事处罚。
文件称:“正如 OpenAI 本身所承认的那样,人工智能失去控制所造成的危害威胁是严重的,不安全的人工智能测试、培训和开发实践的社会效用被潜在危害的严重性所抵消。”
在回应诉讼的声明中,先生 OpenAI 发言人声称 他表示,他已经做了“大量”工作来解决抱脸事件中出现的问题。他们进一步表示,该诉讼针对该公司“是为了应对每个主要人工智能实验室都发现的挑战”。
该发言人表示:“我们严肃对待错位(当人工智能模型以非预期方式工作时),我们已经并将继续与司法部长办公室进行建设性合作,以共享信息并为整个行业推进强大、实用的安全标准。”
Mashable 已联系 OpenAI 征求意见。
披露:Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼,指控其在训练和运营其人工智能系统时侵犯了 Ziff Davis 的版权。











