一項新的科學研究引發了人們的擔憂，即人工智慧驅動的聊天機器人可能會助長妄想思維，尤其是對弱勢群體來說。
關於人工智慧誘發精神病的現有證據摘要於上週發表在 柳葉刀精神病學強調聊天機器人如何鼓勵妄想想法——但可能只適用於已經容易出現精神病症狀的人。作者主張與合格的心理健康專業人員合作對人工智慧聊天機器人進行臨床測試。
倫敦國王學院的精神病學家兼研究員 Hamilton Morrin 博士在他的文章中分析了 20 份有關所謂「人工智慧精神病」的媒體報道，該報告描述了有關聊天機器人如何誘發或加劇妄想的當前理論。
他寫道：“新的證據表明，代理人工智慧可以驗證或放大妄想或浮誇的內容，特別是對於已經容易患精神病的用戶，儘管目前尚不清楚這些相互作用是否會在沒有預先存在的脆弱性的情況下導致新的精神病的出現。”
莫林解釋說，精神病性妄想主要分為三類，分別是誇大妄想、浪漫妄想和偏執妄想。儘管聊天機器人可能會加劇這些問題，但它們的阿諛奉承意味著它們特別堅持浮誇的類型。在本文討論的許多案例中，聊天機器人以神秘的語言回應用戶，暗示用戶具有更高的精神意義。這些機器人也讓用戶與使用聊天機器人作為媒介的宇宙生物交談。這種神秘和阿諛奉承的反應在 OpenAI 的 GPT 4 模型中尤其常見，該模型 該公司現已退休。
他說，媒體報導對於莫林的工作至關重要，因為他和一位同事已經注意到患者「使用大型語言模型人工智慧聊天機器人並讓他們驗證自己的妄想信念」。
“最初，我們不確定這種情況是否會被更廣泛地看到，”他說，並補充道，“去年 4 月，我們開始看到媒體報道稱，個人的妄想症通過與這些人工智能聊天機器人的互動而得到證實，甚至可以說被放大了。”
當莫林開始撰寫論文時，尚未發表任何病例報告。
雖然一些研究精神病的科學家表示，媒體傾向於誇大人工智慧的觀點。 原因 精神病，莫林對這些報告表示感謝，這些報告比科學過程更快地引起了人們對這一現象的關注。
「這一領域的發展速度如此之快，學術界不一定能夠跟上，這也許並不奇怪，」莫林說。
莫林也建議比「人工智慧精神病」或「人工智慧誘發的精神病」更謹慎的措辭——這些短語經常出現在媒體中，例如 美國國家公共電台， 紐約時報 和監護人。 研究人員發現人們透過使用人工智慧而陷入妄想，但到目前為止，沒有證據表明聊天機器人與其他精神病症狀有關，例如幻覺或“思維障礙”，其中包括思維和言語混亂。
許多研究人員也認為，人工智慧不太可能對那些尚未受到影響的人產生妄想。出於這個原因，莫林說「與人工智慧相關的妄想」「也許是一個更不可知的術語」。
成癮與心理健康中心首席科學家夸梅·麥肯齊博士認為，“處於精神病早期階段的人可能面臨更大的風險。”
麥肯齊解釋說，精神病性思維隨著時間的推移而發展，並且不是線性的，許多患有「精神病前思維」的人不會發展為精神病性思維。
哥倫比亞大學臨床精神病學教授 Ragy Girgis 博士也擔心聊天機器人可能會加劇精神病性想法。他說，在一個人形成完全的妄想之前，他們通常會產生“減弱的妄想信念”，這意味著他們不能百分之百確定自己的妄想是真實的。吉爾吉斯說，“最糟糕的情況”是當減弱的妄想變成完全的信念時，“也就是說，當一個人被診斷出患有精神障礙時 – 這是不可逆轉的。”
值得注意的是，早在人工智慧技術出現之前，易患精神疾病的人就已經利用媒體來強化他們的妄想信念。
「早在工業革命之前，人們就對科技抱持幻想，」莫林說。雖然在過去，人們可能必須瀏覽 YouTube 影片或本地圖書館中的內容來強化他們的幻想，但聊天機器人可以以更快、更集中的方式提供這種強化。牛津大學研究員多明尼克·奧利佛博士說，它們的互動性質也可能「加速」精神病症狀惡化的過程。
「你有一些東西在回應你，與你互動，並試圖與你建立關係，」奧利佛說。
在吉爾吉斯 搜尋發現 當回應明顯瘋狂的提示時，「（聊天機器人的）付費版本和較新版本的表現比舊版本更好，儘管它們都表現不佳。」然而，這些模型的工作方式不同這一事實表明：「人工智慧公司可能知道如何對其聊天機器人進行編程，使其更安全，並識別妄想和非妄想內容，因為他們確實這樣做了。」 »
OpenAI 在一份聲明中表示，ChatGPT 不應取代專業的心理健康護理，該公司正在與 170名心理健康專家 使 GPT 5 更加安全。 GPT 5 一直對顯示心理健康危機的提示給予有問題的回應。 OpenAI 說過了 繼續改進其模型 在專家的幫助下。
Anthropic 沒有回應《衛報》的置評請求。
莫林說，針對妄想思維建立有效的防護措施可能很棘手，因為「當你與有妄想信念的人一起工作時，如果你直接挑戰某人並立即告訴他們他們完全錯了，事實上，他們更有可能遠離你並變得更加社會孤立。」相反，重要的是要創造一種微妙的平衡，在這種平衡中，你試圖理解新信念的根源，但又不鼓勵它——這可能超出了聊天。
