父母在兒子自殺中的角色彎曲了

在16歲的亞當·林（Adam Rin）去世之前，由於自殺，他花了幾個月的時間就結束生命的計劃進行了諮詢。現在，他的父母提交了第一個針對Openai的著名著名訴訟，《紐約時報》 報告。

如果用戶表示打算傷害自己或他人，則將許多聊天機器人編程為消費者刺激安全功能。但 研究 他表明，這些保證遠非保證。

對於Raine，使用付費版本的Chatgpt-4O時，大赦國際經常鼓勵他尋求專業幫助或與AID Line建立聯繫。但是，他能夠通過告訴chatgpt詢問他正在寫的虛構故事的自殺方法來繞過這些扶手。

Openai在其博客上遇到了這些缺點。 “由於世界適應了這項新技術，我們對幫助更多需要它的人有深厚的責任，” 讀。 “我們不斷改善模型對敏感互動的反應。”

但是，該公司已批准對當前大型模型的安全培訓施加的限制。該出版物繼續說：“我們的保證可靠地工作，並進行短暫的交流。” “隨著時間的流逝，我們已經了解到，這些保證有時在長期反應中可能會降低：隨著面部和背景的增長，安全訓練的一部分可能會從模型中分解出來。”

這些問題在Openai中並非唯一。面對信。 AI是另一個聊天機器人製造商，這是她在少年自殺中角色的訴訟。 LLM權力的聊天機器人已與檢方相關的幻覺鏈接，這與當前的保證陷入困境。