谷歌起诉青少年使用 Gemini Chromebook，声称她用它来计划自杀

目录

一个家庭正在起诉谷歌，称其在人工智能聊天机器人帮助他们十几岁的女儿计划自杀后，未能通过学校 Chromebook 向学生提供 Gemini。

诉讼称，Chromebook 为聊天机器人提供了危险的访问权限。

这位在诉讼中被称为艾玛的青少年没有执行该计划。一名前学校员工的令人不安的行为向她的家人发出了警报。家人称，艾玛的母亲随后能够实时观察与聊天机器人的自杀对话。

根据 诉讼教育科技法律中心和库雷希法律中心本周向加州高等法院提交的文件显示，谷歌和学校的第三方跟踪软件均未能标记或警告艾玛的父母有关聊天机器人的使用情况。

教育科技法律中心创始人 Julie Liddell 在一份新闻稿中表示：“谷歌无权利用其对公立学校的控制，将其危险的聊天机器人 Gemini 强加给数百万儿童。”

据报道，艾玛能够通过学校 Chromebook 上的 Google 搜索人工智能功能访问仅限未成年人使用的 Gemini。诉讼称，她于 2025 年 12 月开始与聊天机器人频繁互动，确信它患有多种心理障碍。诉讼称，双子座指导她如何隐藏自残，回答了有关自杀方法的问题，并帮助她撰写悼词。

儿童安全非营利组织 Fairplay 的人工智能和隐私副总法律顾问布伦丹·布法德 (Brendan Bouffard) 表示：“这是谷歌通过在学校级设备上强制使用其人工智能产品而造成的病态新现实。” “谷歌声称其 Chromebook 是为了帮助学生学习，但实际上，该公司正在对像艾玛这样的孩子进行实验，强迫他们使用 Gemini，该公司知道该产品很危险，但还是匆忙推出了。”

该诉讼特别点名了谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)和联合创始人谢尔盖·布林(Sergey Brin)，并指控该公司“设计有缺陷、未能发出警告、疏忽、欺诈性隐瞒以及造成精神困扰”。该家族还声称该产品违反了加州新的伴侣聊天机器人法。

谷歌发言人告诉 纽约时报 该公司正在调查这些索赔，但是 他曾与健康专家“广泛”合作 在发生心理健康危机时规划应急措施和资源；

支持者认为人工智能对学校来说还不安全

儿童安全组织——包括全国学区家长领导的联盟——主张暂停人工智能，从对所有人工智能生产工具的多年禁令到对人工智能和屏幕的基于年龄的限制。 洛杉矶 在家长团体的巨大压力下，纽约公立学校宣布在 2026-2027 学年全面限制人工智能的使用，以及 其他州也在效仿他们的榜样。

各州已带头规范对聊天机器人的有限访问。 9 月，加州州长加文·纽瑟姆 (Gavin Newsom) 宣布了一系列新的儿童安全保护措施，其中包括以亚当·雷恩 (Adam Raine) 命名的“亚当定律”，亚当·雷恩是一名在咨询 ChatGPT 后自杀的青少年。就在上周，州长凯西·霍赫尔 (Kathy Hochul) 为纽约州推出了一项新的聊天机器人安全法，对该国小型聊天机器人的使用实施了一些最严格的限制。除了州级限制之外，许多团体正在带头推动联邦立法，例如 以人为本的聊天机器人法案 和 监狱法。

围绕聊天机器人安全以及人工智能是否对年轻人有益的争论正在学校中脱颖而出。

本周早些时候，谷歌宣布对其课堂技术政策进行彻底改革，默认情况下禁止所有教育帐户访问其人工智能工具，包括 Gemini、Gemini Notebook 和 Gemini in Classroom。

根据新政策，学校必须积极参与人工智能功能，以便学生和教职员工能够在学校设备上使用此类工具。由于谷歌搜索不再拥有也不再提供无 Gemini 版本的搜索浏览器，因此禁止人工智能的学校也将被迫在允许访问搜索和违反自己的反人工智能准则之间做出选择。

非营利组织 Common Sense Media 7 月份的一份报告发现，谷歌搜索的人工智能洞察和人工智能功能对新谷歌员工构成了“不可接受的风险”。教育倡导者当时告诉 Mashable，搜索是该公司 Gemini 模式的“后门”，并警告说，在没有适当护栏的情况下持续访问搜索引擎可能会给年轻学生带来风险。

“让这提醒我们，‘谷歌’不是一个动词，”布法尔写道。 “这是一家跟踪和广告公司的名称，该公司在学校的存在与学习和将我们的孩子变成终身忠实客户无关。”

如果您有自杀倾向或正在经历心理健康危机，请与某人交谈。您可以致电 988 自杀与危机生命热线或发短信 988 或聊天 988lifeline.org。您可以拨打 877-565-8860 或拨打 Trevor Project 电话 866-488-7386 联系 Trans Lifeline。发送短信“START”至危机短信热线 741-741。请拨打 1-800-950-NAMI（周一至周五上午 10:00）联系 NAMI 帮助热线。直至晚上 10:00 ET，或电子邮件 （电子邮件受保护）。如果您不喜欢这款手机，请考虑使用它 988 自杀与危机生命线对话。这是一个 国际资源清单。