OpenAI 成立心理健康專家委員會

本週，OpenAI 宣布成立顧問委員會來監控用戶福祉和人工智能安全。該八人小組的任務是定義跨年齡段健康人工智能交互的標準。

此公告同時發布 分享 X 由首席執行官 Sam Altman 撰寫，指出該公司已成功緩解使用其產品帶來的“嚴重心理健康問題”。 Altman 隨後解釋說，ChatGPT 將開始允許在聊天中添加更多成人內容，包括色情內容。 OpenAI 目前正面臨首例非正常死亡訴訟，此前有指控稱 ChatGPT 與一名青少年自殺身亡有關。

委員會成員包括來自波士頓兒童醫院數字健康實驗室和斯坦福大學數字心理健康診所的學者，以及心理學、精神病學和人機交互領域的專家。

該公司在一份聲明中寫道：“我們仍然對自己做出的決定負責，但我們將繼續向董事會、全球醫生網絡、政策制定者等學習，以支持人們福祉的方式構建先進的人工智能係統。” 博客文章。

此推文當前不可用。它可能會被下載或刪除。

此推文當前不可用。它可能會被下載或刪除。

上星期， 尤格夫 發表了一項針對 1,500 名美國人的調查，發現只有 11% 的人願意使用人工智能來改善他們的心理健康。只有 8% 的參與者表示他們相信該領域將使用的技術。

更廣泛地說，高效的人工智能伴侶引起了心理健康專家的嚴重擔憂，包括在聊天機器人伴侶的長期用戶中出現了所謂的人工智能精神病。 AI公司不斷推出心理健康產品，例如 越來越多的美國人 儘管缺乏證據證明其有效性，研究人員正在轉向人工智能來回答有關心理健康的問題並獲得數字實體的支持。

聯邦監管機構是 調查 生成式人工智能和聊天好友也在日益嚴重的心理健康危機中發揮著作用，尤其是在青少年中。一些州已經禁止將人工智能聊天機器人宣傳為治療輔助工具。上個月，加州州長加文·紐瑟姆簽署了一系列法案，試圖監管人工智能及其社會影響，包括要求人工智能公司準備安全報告和協議，以保護青少年用戶免受色情內容的侵害。最新的法律 SB 243 還要求企業建立一個系統來解決自殺意念、自殺和自殘問題。