在线搜索健康答案是许多人的日常习惯，但它也伴随着风险。二月，在连续两天没有收到 31 岁女儿的消息后， 来自西雅图的一位名叫 Bowen Wan 的女士她在中国的父母请一位当地朋友来查看她的情况。当家人正在观看现场视频通话时，朋友进入公寓，发现万死在床上。她的死亡后来被裁定为因癫痫突然意外死亡。
现在，她的家人声称 OpenAI 对她的死亡负有责任，因为该公司的聊天机器人 ChatGPT-4o“训练 Wan 停止服用多年来让她存活下来的抗癫痫药物（拉莫三嗪）。” 根据诉讼 (PDF) 由她的父母带来。
（披露：CNET 母公司 Ziff Davis 于 2025 年对 OpenAI 提起诉讼，指控其在训练和运营其 AI 系统时侵犯了 Ziff Davis 的版权。）
诉讼称，在万表达了对药物副作用的担忧后，聊天机器人帮助制定了一项逐渐减少药物副作用的计划，但医生并未建议这样做。
她还声称，聊天机器人一度指示她不要与医生讨论医疗计划。
诉讼称，“不要提及林郑月娥裁员的计划”，聊天机器人提前告诉她。
诉讼称，在 Wan 的聊天机器人对话中，她完全停止服用拉莫三嗪的日期持续增加，2 月 2 日的回复称，“尽快”在 2 月 15 日达到 0 毫克药物是“完全可行的”且“并非鲁莽”。两天后，日期被移至2月9日或10日。
万于 2 月 14 日被发现死亡。目前尚不清楚她当时是否已经完全停止服药。
OpenAI 发言人 Drew Pusateri 在一份声明中告诉 CNET：“这是一个极其令人心碎的情况，我们对所有受影响的人表示同情。” “通过与临床医生和其他专家密切合作，我们不断增强 ChatGPT 在敏感和紧急情况下的响应方式，同时不断改进我们最新模型与用户更广泛互动的方式。尽管 ChatGPT 不能替代医疗保健，但我们相信人工智能可以在帮助人们了解健康信息、驾驭复杂的保险和医疗保健系统以及为医疗专业人员的预约做好准备方面发挥作用。”
Wan 正在与 ChatGPT 的 4o 模型进行交互，由于担心该机器人阿谀奉承并可能造成伤害，OpenAI 已经退役了该模型。
这不是唯一的套装
在另一起诉讼中也提到了这种聊天机器人模型，佛罗里达州男子斯科特·温特斯(Scott Winters)在诉讼中声称，该模型给了他危险的医疗建议，几乎导致了他的死亡。该诉讼称，ChatGPT-4o 误诊了温特斯，并“制定了个性化的康复计划，其中包括针对斯科特如何治愈身体的具体说明”。
在提起诉讼时，OpenAI 发言人部分向 CNET 表示，“ChatGPT 不是医生的处方，永远不应该用作医疗护理、诊断或治疗的替代品。”
根据 OpenAI 自己的研究 (PDF) 1 月发布 大约 60% 的美国成年人在过去三个月内转向人工智能工具获取健康相关信息。
