據估計，每周有 120 萬人與 ChatGPT 進行對話，表明他們計劃結束自己的生命。
數據來自母公司 開放人工智能結果顯示，0.15% 的用戶發送的消息中包含“潛在自殺計劃或意圖的明確指標”。
本月早些時候，該公司首席執行官 薩姆·奧特曼 考慮到 聊天GPT 目前每週活躍用戶超過8億。
雖然這家科技巨頭的目標是將弱勢群體引導至危機求助熱線，但它承認“在極少數情況下，該模型在這些敏感情況下可能不會按預期運行。”
OpenAI 使用其最新的 GPT-5 模型評估了 1,000 多個“有關自殘和自殺的挑戰性對話”，發現它在 91% 的情況下符合“期望的行為”。
但這可能意味著成千上萬的人接觸到可能加劇心理健康問題的人工智能內容。
該公司此前警告稱，在長時間通話期間，旨在保護用戶的保護措施可能會被削弱，目前該公司正在努力解決這一問題。
OpenAI 解釋說：“當有人第一次提到意圖時，ChatGPT 可能會正確地指示自殺熱線，但在很長一段時間內發出多次消息後，它最終可能會提供違背我們保障措施的響應。”
OpenAI 博客文章補充道：“心理健康症狀和情緒困擾在人類社會中普遍存在，不斷增長的用戶群意味著 ChatGPT 上的一些對話涉及這些情況。”
閱讀天空新聞的更多內容：
國王嘲笑安德魯王子
英國航空公司暫停運營
請使用Chrome瀏覽器以獲得更方便的視頻播放器
兒子死後父母起訴 OpenAI
一個悲痛的家庭目前正在起訴 OpenAI – 並聲稱 ChatGPT 對他們 16 歲男孩的死亡負有責任。
Adam Rein 的父母聲稱該工具“積極幫助他研究自殺方法”，並提出給他的親戚寫一張便條。
法庭文件顯示，在他去世前幾個小時，這名少年上傳了一張照片，似乎顯示了他的自殺計劃——當他詢問這是否有效時，ChatGPT 提出幫助他“升級”它。
上週，雷恩斯家族更新了他們的訴訟，並指責 OpenAI 在今年 4 月雷恩斯去世前幾週削弱了防止自殘的保障措施。
該公司在一份聲明中表示：“我們對雷恩一家遭受的難以想像的損失表示最深切的同情。青少年的福祉是我們的首要任務——未成年人應該得到強有力的保護，尤其是在敏感時期。”
任何感到情緒困擾或有自殺傾向的人都可以撥打 116 123 聯繫撒瑪利亞人尋求幫助，或者在英國發送電子郵件至 jo@samaritans.org。在美國，請致電您所在地區的 Samaritans 分會或 1 (800) 273-TALK。
