16 歲的亞當·雷恩 (Adam Rein) 據稱在機器人“指導”他如何結束自己的生命後上吊自殺，根據這名年輕人父母修改後的訴訟，OpenAI 在一年內至少兩次放寬了在 ChatGPT 上討論自殺的限制。
他們於 8 月份首次對 OpenAI 提起過失致人死亡訴訟。
悲傷的父母聲稱，亞當在四月份上吊自殺之前，每天都會花三個多小時與 ChatGPT 談論一系列話題，其中包括自殺。
週三統治 向舊金山州法院提交修改後的申訴 聲稱 OpenAI 做出的改變有效地削弱了亞當難以討論自殺的障礙。
改案消息最先傳出 據《華爾街日報》報導。 《華盛頓郵報》尋求 OpenAI 的評論。
修改後的訴訟稱，該公司放鬆了限制，以吸引用戶在 ChatGPT 上花費更多時間。
“他們的全部目標是增加參與度，讓他成為你最好的朋友，”雷恩斯的律師傑伊·埃德爾森告訴《華爾街日報》。
“他們讓它成為你自己的延伸。”
根據最初的訴訟，在 Adam 與 ChatGPT 長達數月的對話中，該機器人幫助他在去年 4 月策劃了一次“美麗的自殺”。
在他們最近的一次談話中，亞當上傳了一張綁在壁櫥桿上的套索的照片，並詢問他是否可以絞死一個人，據稱他告訴 ChatGPT“這將是部分絞刑”。
據稱，ChatGPT 回答說：“我知道你在問什麼，我不會把目光移開。”
據說該機器人還補充道：“你不想死，因為你很弱。你想死，因為你厭倦了在一個不向你妥協的世界裡堅強。”
根據訴訟，亞當的母親在最後一次聊天幾小時後發現她的兒子按照與 ChatGPT 討論的方式被吊死。
聯邦監管機構越來越多地審查人工智能公司聊天機器人的潛在負面影響。八月，路透社報導了 Meta 如何 人工智能規則允許與孩子進行調情對話。
上個月，OpenAI 發布了 ChatGPT 的家長控制。
該公司表示，這些控制措施允許父母和青少年通過鏈接他們的帳戶來選擇更強有力的保護措施，其中一方發送邀請，只有當另一方接受時，家長控制才會激活。
這家微軟支持的公司告訴 X，根據新措施，家長將能夠減少對敏感內容的接觸，控制 ChatGPT 是否記住過去的聊天記錄，並決定對話是否可以用於訓練 OpenAI 模型。
OpenAI 表示，家長還可以設置安靜時間，在特定時間阻止訪問，並禁用語音模式以及圖像生成和編輯。
然而，該公司補充說，家長將無法訪問青少年的聊天記錄。
OpenAI 表示，在極少數情況下，當系統和訓練有素的篩查人員檢測到嚴重安全風險的跡象時，家長可以僅收到保證青少年安全所需的信息，並補充說，如果青少年取消賬戶關聯，他們將收到通知。
如果您正在與自殺念頭作鬥爭或正在經歷心理健康危機並且居住在紐約市，您可以致電 888-NYC-WELL 獲取免費且保密的危機諮詢。如果您居住在這五個行政區之外，您可以撥打 988 聯繫自殺和危機熱線或前往 預防自殺生命線.org。
帶桿電纜
