Anthropier說

男人 她宣布了新功能 這將允許其一些最新模型結束對話，因為該公司將“稀有，極端，用戶，不斷虐待的反應”所描述。令人驚訝的是，安塔爾（Antarbur）說這不是為了保護人類用戶，而是人工智能模型本身。

為了清楚起見，該公司不聲稱Claude AI模型遙遠或可能會受到與用戶對話的影響。用自己的話說，安塔爾仍然“非常確定克勞德和其他LLM的潛在道德模式，現在或將來。”

但是，他的公告是指創建的現代計劃，以研究他所謂的“典型奢侈品”，並說Antarubor主要採用公平的方法，“致力於確定和實施低成本干預措施，以減輕典型奢侈品的風險，如果這種奢侈品可以這樣做。”

最後的更改目前僅限於Claude Obus 4和4.1。再次，它應該僅發生在“極端主義邊緣案件”中，例如“用戶對包括未成年人在內的性內容的請求，並試圖尋求可以大規模或恐怖行為的暴力行為的信息”。

儘管這些類型的請求可以為Athrubor本身造成法律問題或宣傳（見證了有關如何增強ChatGpt或有助於其用戶思維的最新報告），但該公司表示，在發布前的測試中，Claude Opus 4在何時對這些請求和“明顯的困難”表現出強烈的偏愛。

至於對話結束時這些新功能，該公司表示：“在所有情況下，克勞德（Claude）只能利用其能力來結束對話作為最後的度假勝地，當多次嘗試重新涉及涉嫌失敗，而生產性的互動已經耗盡，或者用戶明確要求克勞德（Claude）完成聊天。”

男子還說，如果用戶可能有可能損害自己或他人的風險，克勞德已被指示不使用這種能力。

當Claud結束對話時，Man說，用戶將能夠從同一帳戶開始新的對話，並通過編輯其響應來創建令人討厭的對話的新分支。

該公司表示：“我們正在處理這一功能是一種連續的體驗，我們將繼續改善我們的方法，”該公司說。