OpenAI 如此宣稱 世界人口的10% ChatGPT 目前每週使用一次。在一個 他發表的報告 週一，OpenAI 強調了它如何處理表現出精神困擾跡象的用戶，該公司聲稱，0.07% 的每周用戶表現出“與精神病或躁狂症相關的精神健康緊急情況”的跡象，0.15% 表示有“自殘或自殺”的風險，0.15% 表現出“對人工智能的情感依賴”跡象。這意味著大約有三百萬人。
OpenAI 不斷努力表明它正在努力改善陷入困境的用戶的護欄 訂戶 詳細介紹了其與 170 名心理健康專家的合作，以改善 ChatGPT 對需要支持的人的響應方式。該公司聲稱，它已經將“達不到我們期望行為的回應減少了 65-80%”，現在更擅長平息對話，並在適當的時候引導人們撥打專業護理和危機熱線。它還添加了更多“溫和提醒”，以在長時間會議期間休息。當然，它無法向用戶提供聯繫支持，也不會鎖定訪問以強制中斷一段時間。
該公司還發布了人們在與 ChatGPT 交流時遇到心理健康問題的頻率數據，表面上是為了強調這些對話在總體使用中所佔的比例有多麼小。根據該公司的指標，“一周內 0.07% 的活躍用戶和 0.01% 的消息表明存在與精神病或躁狂症相關的心理健康緊急情況的潛在跡象。”假設公司的用戶數量正確的話，這相當於每週約 560,000 人。公司也有 他聲稱 每周處理大約 180 億條 ChatGPT 消息，0.01% 相當於 180 萬條精神病或躁狂消息。
該公司在安全方面的另一個主要關注領域是改善對那些表示想要傷害自己或自殺的用戶的反應。根據 OpenAI 的數據，每週約有 0.15% 的用戶表達“潛在自殺計劃或意圖的明顯跡象”，佔消息的 0.05%。這相當於大約 120 萬人和 900 萬條消息。
該公司在尋求改善對心理健康問題的反應時重點關注的最後一個領域是對人工智能的情感依賴。 OpenAI 估計，每週約有 0.15% 的用戶和 0.03% 的消息“表明與 ChatGPT 存在潛在的高水平情感聯繫”。那是 120 萬人和 540 萬條消息。
近幾個月來，在一名 16 歲青少年去世後，OpenAI 已採取措施，試圖提供更好的防護措施，以防止其聊天機器人可能引發或加劇一個人的心理健康挑戰。 非正常死亡訴訟 ChatGPT 向已故青少年的父母詢問瞭如何在他自殺前系上絞索的建議。但這一說法的真實性值得質疑，因為該公司在宣布針對未成年用戶推出新的、更具限制性的聊天功能的同時，還宣布將允許成年人賦予 ChatGPT 更多個性，並參與諸如製作色情內容之類的事情——這些功能顯然會增加人們對聊天機器人的情感依戀和依賴。
