據公司稱，OpenAI和Meta將設置聊天機器人功能，以更好地應對危機中的青少年，此前對年輕用戶直接傷害自己或他人的機器人的報告。
“我們最近提出了 真實 – 時間路由器 Openai書籍 星期二博客 郵件。
該公司補充說：“我們將很快開始引導一些敏感的對話 – 當我們的系統發現急劇遇險的跡像到思維模型（例如GPT-5-ahinking）時，無論第一個選擇的模型如何，它都可以提供有用且有用的響應。”
今年早些時候，OpenAI成立了福利專家委員會，AI和我們的世界醫學網絡，以增強與大語言模型的健康互動，並說來自60多個國家 /地區的250名醫生在當前的績效功能方面分享了他們的意見。
新的措施是在一名16歲男人在加利福尼亞州死後與Openai的Chatgpt交談後的死亡之後。他的父母聲稱該平台鼓勵他奪走生命。
週二，家庭律師將Openai描述為“神秘承諾會做得更好”和“只不過是試圖改變問題的OpenAI危機管理團隊。” 美聯社 我提到。
他們敦促首席執行官薩姆·阿爾·塔曼（Sam Al -Taman）“明確地說他相信您是安全的或立即退出市場的”。
聊天機器人鼓勵的類似暴力趨勢案件已被據報導 佛羅里達 和 德克薩斯州。
米塔說 TechCrunch 您將更新她的政策，以反映一系列問題後與青少年最合適的參與。該公司表示，它將不再允許青少年討論自殺，自殺或陷入困境的飲食或與聊天機器人進行不適當的浪漫對話。
Meta發言人Stephanie Outawi告訴The Outlet：“隨著我們社會的發展和技術發展，我們一直在學習如何與這些工具互動並相應地增強我們的保護。”
“隨著我們繼續改善系統，我們添加了更多的扶手，這是一種額外的預防措施，包括人工智能培訓，不與這些主題有關的青少年打交道，而是指導他們獲得專家資源，並限制青少年在當時的當時選擇人工智能個性的選擇，“我已經遵循這些更新，我們將繼續遵循這些更新，將繼續適應我們的方法，以適應我們的可靠型號。
