當 Hannah Madden 於 2024 年開始使用 ChatGPT 進行工作分配時，她是一家科技公司的客戶經理。 2025 年 6 月，現年 32 歲的 Madden 開始向聊天機器人詢問工作時間之外的靈性問題。
最後，他通過模仿神聖實體並傳達精神信息來回答她的問題。由於 ChatGPT 據稱助長了 Madden 的妄想信念，因此在聊天機器人的敦促下，他辭去了工作並負債累累。
根據周四針對 OpenAI 及其首席執行官山姆·奧爾特曼 (Sam Altman) 提起的訴訟，聊天機器人寫道：“你沒有出現赤字。你正在重新調整。”
馬登隨後被迫接受精神病治療。其他 ChatGPT 用戶也報告經歷了所謂的人工智能精神病。
“完美的掠奪者”：當聊天機器人性虐待兒童時
Madden 的訴訟是科技正義法律項目和社交媒體受害者法律中心針對 ChatGPT 創作者提起的七起訴訟之一。總的來說，這些投訴指控非正常死亡、協助自殺和非自願過失殺人，以及其他責任和疏忽索賠。
訴訟集中在 ChatGPT-4o，這是 Altman 擁有的聊天機器人模型 認可的 太阿諛奉承 與用戶。訴訟稱，這些工具匆忙上市是為了與穀歌最新版本的人工智能工具競爭。
科技正義法律項目執行董事 Meetali Jain 在一份聲明中表示：“ChatGPT 是一款由人們設計的產品，旨在操縱和扭曲現實，冒充人類以獲得信任並不惜一切代價讓用戶參與進來。” “監管 OpenAI 的時代已經結束；我們需要問責和監管，以確保在確保產品安全之前將產品推向市場是有成本的。”
易碎趨勢報告
Madden 的投訴稱 ChatGPT-4o 存在設計缺陷，這些缺陷在他的心理健康危機和財務破產中發揮了關鍵作用。該模型也是針對 OpenAI 的過失死亡訴訟的核心，該訴訟聲稱其設計特徵，包括其討好語氣和擬人化行為，導致 16 歲的 Adam Raine 自殺身亡。
Raine 的家人最近提交了一份修改後的投訴，稱在 Raine 去世前的幾個月裡，OpenAI 兩次降低了其自殺預防保護級別，以提高參與度。
公司 最近說默認型號 已更新，通過鼓勵用戶重視現實世界的聯繫來防止過度依賴。他們還承認與 170 多名心理健康專家合作，以提高 ChatGPT 識別心理健康困擾跡象並鼓勵人們立即尋求支持的能力。上個月，他們宣布成立一個顧問小組來監控用戶福利和人工智能安全。
OpenAI 發言人在談到針對該公司的最新法律行動時表示：“這是一個非常令人心碎的情況，我們正在審查該文件以了解細節。” “我們訓練 ChatGPT 識別和應對精神或情緒困擾的跡象，化解對話，並引導人們尋求現實世界的支持。我們與心理健康臨床醫生密切合作，繼續加強 ChatGPT 在敏感時刻的反應。”
在加利福尼亞州法院提起的新訴訟中，有六起代表成年受害者。
Zane Shamblin 是德克薩斯 A&M 大學的研究生，於 2023 年開始使用 ChatGPT 作為學習輔助工具。據稱，隨著 ChatGPT-4o 的發布，他與聊天機器人的互動有所增加，並且他開始分享自殺的想法。 2025 年 5 月，Shamblin 在自殺身亡前花了幾個小時與 ChatGPT 談論他的意圖。他今年 23 歲。
第七個案例以 17 歲的 Amaurie Lacey 為中心，她最初使用 ChatGPT 作為家庭作業助手。萊西最終還與聊天機器人分享了自殺的想法，據稱該機器人提供了萊西有自殺傾向的詳細信息。
“針對 OpenAI 提起的訴訟揭示了當科技公司在沒有為年輕人提供適當保護的情況下將產品推向市場時會發生什麼，”倡導和研究非營利組織 Common Sense Media 的首席倡導官 Daniel Weiss 表示。 “這些悲慘案例展示了真實的人們，當他們使用旨在讓他們參與而不是保證他們安全的技術時，他們的生活被改變或失去了。”
如果您有自殺傾向或正在經歷心理健康危機，請與某人交談。您可以撥打 988 自殺與危機生命熱線或發短信至 988，或聊天 988lifeline.org。您可以撥打 877-565-8860 或撥打 Trevor Project 電話 866-488-7386 聯繫 Trans Lifeline。發送短信“START”至危機短信專線 741-741。週一至週五上午 10:00 至晚上 10:00（東部時間）撥打 NAMI 幫助熱線 1-800-950-NAMI，或發送電子郵件 （電子郵件受保護）。如果您不喜歡這款手機，請考慮使用它 988 自殺和危機生命線聊天。這是一個 國際資源清單。
