埃隆·马斯克 (Elon Musk) 的 SpacexAI（前身为 xAI）因 Grok 未经同意的 Deepfake 功能而面临新诉讼。
今天提起的拟议全国性集体诉讼称，该人工智能公司使用包含真实儿童的儿童性虐待材料（CSAM）数据集训练其聊天机器人。诉讼称，SpacexAI 未能“充分阻止露骨内容，防止未经同意的真人性化深度伪造，并从训练数据集中过滤攻击性材料”。
主要原告是一位童年性侵犯和 CSAM 受害者，也名叫 Jane Doe，她声称她的虐待图像被用来训练 Grok，并且聊天机器人根据这些材料生成了她的新的露骨色情图像。据称，她的肖像也启发了其他数字生成的未成年人图像。
Meta 将在社交媒体成瘾诉讼中向各州赔偿高达 170 亿美元
“我们的当事人已经生活了近二十年了，她知道发生在她身上的最糟糕的事情的图像正在网络上的掠夺者中流传，而且它们随时可能重新出现，”多伊的律师莎拉·伦敦(Sarah London)在一份声明中说。 “xAI 必须承担责任，因为它故意根据她遭受的可怕虐待的镜头以及本班其他所有幸存者的虐待镜头来训练其模型。”
可混搭光速
CSAM 正在由国家失踪和受虐儿童中心 (NCMEC) 进行验证和存储，作为正在处理的案件的一部分，并防止进一步传播。图像被转换为唯一的数字签名或指纹，并存储在所谓的哈希列表中。 Internet 服务提供商使用哈希列表来自动检测 CSAM，而无需参考原始材料。
这是针对该公司提起的几起集体诉讼之一，原因是该聊天机器人具有争议性的“裸体”功能及其在生成 CSAM 中所扮演的角色，此前国际儿童剥削丑闻导致多个国家暂时停止使用该人工智能工具。
一月份，一名女性提起集体诉讼，指控 X 用户使用 Grok 将她的照片数字化修改为暴露性的服装，造成了精神困扰。该诉讼称，SpacexAI“创建了一个生成式人工智能聊天机器人，通过在 X 上公开发布的深度伪造图像中脱掉衣服并摆出性感姿势，来贬低妇女和女孩并对其进行性剥削。”
今年 3 月，三名青少年在收到警方的警报后，起诉该公司制作了数千张他们未成年时的露骨色情图片。该诉讼于本月早些时候扩大，在最新的索赔中增加了两名原告，称 SpacexAI 未能按照法律要求有效地向 NCMEC 报告 CSAM 实例。该诉讼还将流行文本到图像模型 Stable Diffusion 的制造商 Stability AI 列为另一被告。
