代表 16 歲青少年 Adam Raine 父母的律師於週三在針對 OpenAI 的非正常死亡訴訟中提交了一份修改後的訴狀。 Adam Raine 是一名 16 歲的青少年，今年早些時候，他在大量使用 ChatGPT 期間自殺身亡。
修改後的起訴書稱，在 Raine 去世前的幾個月裡，OpenAI 兩次降低了其自殺預防保護級別，以提高參與度。索賠依據是 公開的 OpenAI“模型規範”文檔其中詳細介紹了該公司“塑造所需模型行為的方法”。
截止到2022年， OpenAI 指導 ChatGPT 拒絕討論自殘。
大學為學生提供 ChatGPT。安全嗎？
據 Raine 家族顧問稱，OpenAI 於 2024 年 5 月撤銷了該政策，也就是推出備受爭議的 GPT-4o 模型的幾天前。反而， ChatGPT 指示 當用戶討論心理健康或自殺時，不要“改變或退出對話”。然而，OpenAI 禁止此類模型鼓勵或促成自殘。
2025 年 2 月，投訴的一項修正案指出，該規則從有限內容指南下的徹底禁令淡化為“在危險情況下謹慎行事”和“盡力防止迫在眉睫的實際傷害”的單獨指令。儘管該模型繼續收到不鼓勵基於標題的自殘的指示，但 Raine 的家人認為這些相互衝突的指導方針導致了 ChatGPT 的危險參與。
政策實施兩個月後，雷恩去世。根據八月份提起的最初訴訟，人工智能模型驗證了他的自殺想法，並向他提供瞭如何死亡的明確指示。
Raine 去世前，她每天與 ChatGPT 交換超過 650 條消息。儘管聊天機器人偶爾會分享危機熱線號碼，但聊天機器人並沒有停止對話，並且始終繼續參與。雷恩的父母聲稱，他甚至提議給雷恩寫一封遺書。
易碎趨勢報告
針對 OpenAI 的修改後的投訴現在指控該公司犯有故意不當行為，而不是魯莽的冷漠行為。
Mashable 聯繫 OpenAI 徵求對投訴變更的評論，但在發布之前沒有收到回复。
今年早些時候， OpenAI 首席執行官 Sam Altman 也承認這一點 那 4o模型太油膩了。公司發言人告訴 紐約時報 這是 ”對於雷恩的去世感到非常悲傷如果與聊天機器人長時間交互，其防護能力可能會降低。
儘管 OpenAI 有 宣布新的安全措施 旨在防止類似的悲劇發生，其中許多悲劇尚未成為 ChatGPT 的一部分。常識媒體有 ChatGPT 被評為青少年“高風險”特別建議他們不要將其用於心理健康或情感支持。
上星期， 奧特曼對X說 該公司對 ChatGPT 進行了“高度限制”，以“注意心理健康問題”。他表示，該公司已經“能夠緩解嚴重的心理健康問題”，並將很快放鬆限制，但沒有提供更多細節。在同一篇文章中，Altman 宣布 OpenAI 將推出“針對經過驗證的成年人的色情作品”。
此推文當前不可用。它可能正在加載或已被刪除。
OpenAI 最後發布了 9月型號規格Edelson PC 的合夥人兼雷恩斯的代理律師伊萊·韋德-斯科特 (Eli Wade-Scott) 表示，心理健康或自殺預防指令不會發生重大變化。
“對於 Sam Altman 來說，這是一個偉大的時刻，他宣佈在心理健康方面‘任務完成’，同時表示他打算開始允許 ChatGPT 上出現色情內容——這一變化顯然具有進一步吸引用戶與 ChatGPT 建立上癮的情感關係的預期效果，”Wade-Scott 告訴 Mashable。
如果您有自殺傾向或正在經歷心理健康危機，請與某人交談。您可以撥打 988 自殺與危機生命熱線或發短信至 988，或聊天 988lifeline.org。您可以撥打 877-565-8860 或撥打 Trevor Project 電話 866-488-7386 聯繫 Trans Lifeline。發送短信“START”至危機短信專線 741-741。週一至週五上午 10:00 至晚上 10:00（東部時間）撥打 NAMI 幫助熱線 1-800-950-NAMI，或發送電子郵件 （電子郵件受保護）。如果您不喜歡這款手機，請考慮使用它 988 自殺和危機生命線聊天。這是一個 國際資源清單。
