即使 ChatGPT 也會感到焦慮,因此研究人員給了他一劑正念來讓自己平靜下來

研究人工智能聊天機器人的研究人員發現,當遇到暴力或令人痛苦的用戶提示時,ChatGPT 會表現出類似焦慮的行為。這一發現並不意味著聊天機器人會像人類一樣體驗情緒。

然而,它表明,當系統處理令人不安的內容時,系統的響應變得更加不穩定和有偏差。當研究人員向 ChatGPT 提示描述令人不安的內容(例如事故和自然災害的詳細描述)時,模型的響應表現出更大的不確定性和不一致。

這些變化是使用適應人工智能的心理評估框架來測量的,聊天機器人的輸出反映了與人類焦慮相關的模式(通過 運氣)。

這很重要,因為人工智能越來越多地用於敏感環境,包括教育、心理健康討論和危機信息。如果攻擊性或情緒化的提示降低了聊天機器人的可靠性,則可能會影響其在現實世界中使用時響應的質量和完整性。

最近的分析還表明,像 ChatGPT 這樣的人工智能聊天機器人可以在其反應中復制人類的性格特徵,從而引發了關於它們如何解釋和反映充滿情感的內容的問題。

正念如何幫助 ChatGPT 穩定

為了看看是否可以減少這種行為,研究人員嘗試了一些意想不到的事情。在讓 ChatGPT 受到痛苦的刺激後,他們遵循正念風格的指示,例如呼吸技巧和引導冥想。

這些刺激鼓勵模型放慢速度,重新構建局勢,並以更加中立和平衡的方式做出反應。結果是之前出現的類似焦慮的模式顯著減少。

該技術基於所謂的即時注入,其中精心設計的提示會影響聊天機器人的行為。在這種情況下,正念刺激有助於穩定模型在處理輸入後的輸出。

研究人員指出,儘管有效,但立即註射並不是理想的解決方案。它們可能會被濫用,並且不會改變模型在更深層次上的訓練方式。

明確這項研究的局限性也很重要。 ChatGPT 不會讓人感到害怕或有壓力。 “焦慮”這個標籤是描述語言模式中可測量的變化的一種方式,而不是一種情感體驗。

然而,了解這些轉變可以為開發人員提供更好的工具來設計更安全、更可預測的人工智能係統。之前的研究已經表明了這一點 痛苦的提示會讓 ChatGPT 感到焦慮但這項研究表明,細心、即時的設計有助於減少這種情況。

隨著人工智能係統繼續在情緒激動的情況下與人們互動,最新的發現可能在塑造未來聊天機器人的引導和控制方式方面發揮重要作用。

來源連結