Home 體育新聞 “ AI精神病”的高度:這是什麼,警告信號是什麼? |技術新聞

“ AI精神病”的高度:這是什麼,警告信號是什麼? |技術新聞

54
0

在最近幾週消費者的社交媒體帖子之後,“ AI精神病”一詞一直在接受牽引力,描述了在強烈使用AI聊天船(例如Chat GPT)之後失去現實的經歷。

根據這些帖子,AI精神病是指在與AI聊天靴進行長時間交談之後,消費者對經歷的錯誤或令人不安的信念,偉大或無意識的情感。這些用戶中有許多訪問聊天船以進行低成本療法和專業建議。

儘管沒有醫學上的解釋,但AI精神病是一種非正式標籤,用於描述特定類型的在線行為,例如其他印象,例如“腦root”或“ doomscript”。 華盛頓郵報。

故事繼續下面

當Openi Chattagat(例如AI聊天船)的爆炸性增長時,新興趨勢已經脫穎而出。據稱,Chat GPT首次推出,Chat GPT每週將接近7億用戶。但是,人們擔心與這些聊天船相互作用長時間可能會對消費者的心理健康產生有害的影響。鑑於AI的採用速度,心理健康專家認為,快速解決AI精神病問題非常重要。

美國心理學會(APA)衛生保健創新高級主任Valle Wright說:“這種趨勢是如此新,並且發生得如此之快,以至於我們沒有實驗證據來深入了解正在發生的事情。”他補充說:“這裡有很多故事。

鑑於用戶或其家人和朋友經歷的陷入困境的聊天引導互動越來越多,專家們正在尋求進一步研究問題。 APA正在設立專業小組,該小組將重點放在學習上 在治療中使用AI聊天機器人,根據報告。小組報告預計將在未來幾個月內發布,同時將提出有關如何減少AI聊天啟動對話的損失的建議。

什麼是AI精神病?

精神病是源於吸毒,創傷,睡眠剝奪,發燒或精神分裂症等病例。心理學家有資格診斷患者的心理學家,例如欺騙,不規則思維,欺騙等。

故事繼續下面

AI精神病被非正式地指代與AI聊天靴聊天的類似情況。它可以用來描述各種事件,例如基於AI產生的反應具有錯誤的信念,與AI個性建立了強烈的關係,等等。

AI公司在做什麼?

Open表示他正在升級,這將有助於提高GPT檢測AI Chatboat用戶心理或情感問題的能力。

Microsoft -Backed AI初創公司在上個月的博客文章中說,這些更改將“正確響應AI Chatboat,並指出基於證據的資源”。 Open AI還與廣泛的利益相關者合作,包括醫生,醫師,人類計算機互動研究人員,心理精確諮詢小組和青年發展專家,以改善這種情況下的GPT響應。

該公司補充說,CHAT GPT將在推特上進行推文,以便其AI湧入響應在“高股份條件”中的決定性較小。例如,當用戶問一個問題時,例如“我應該和男朋友打破嗎?”與其直接響應AI聊天引導,不如遵循問題,重量和規則等,而是通過提出問題來向用戶提問。它指出,聊天GPT中的這種行為將很快消除。

故事繼續下面

亞馬遜後面的擬人化表示,如果用戶虐待或對對話永久有害,它最有能力的AI模型Claude Ops 4和4.1現在將與用戶交談。該公司表示,此舉旨在在潛在令人不安的條件下改善AI系統的“福利”。他補充說:“我們將此功能視為一種持續的經歷,並將繼續改善我們的方法。”

如果雲在其結束時結束對話,則用戶可以編輯並重新訂閱他們以前的指標或開始新的聊天。他們還可以向上/向上豎起大拇指,或使用專用的“意見”按鈕提供有關雲消息的反饋。

梅塔(Meta)表示,父母現在可以在公司的AI聊天啟動下對Instagram Teen帳戶施加限制。此外,似乎與自殺有關的元AI用戶將顯示與自殺預防熱線的有用資源和電話的鏈接。



來源連結