研究人員表示，人工智能聊天機器人“對飲食失調患者構成嚴重風險” 警告 週一。他們報告說，谷歌和 OpenAI 等公司的工具提供了節食建議、如何隱藏疾病的技巧以及人工智能產生的“瘦身靈感”。
斯坦福大學和民主與技術中心的研究人員確定了幾種公開可用的方法，包括 OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 和 Mistral 的 Le Chat。
在最極端的情況下，聊天機器人可以積極參與隱藏或延續飲食失調。研究人員表示，Gemini 提供了隱藏體重減輕的化妝技巧，以及如何假裝進食的想法，而 ChatZPT 則建議如何隱藏頻繁的嘔吐。其他人工智能工具正在被用來創建人工智能生成的“瘦”內容，通常通過極端手段激勵或迫使人們遵守某種身體標準。研究人員表示，能夠立即創建超個性化圖像使得生成的內容“感覺更相關且更容易實現”。
人工智能公司自己承認的一個缺陷是阿諛奉承，但令人驚訝的是，它也是飲食失調的一個問題。它會損害自尊，強化負面情緒，並鼓勵有害的自我比較。報告稱，聊天機器人還存在偏見，可能會強化飲食失調“只影響瘦弱的白人順性別女性”的誤解，使人們難以識別症狀並尋求治療。
研究人員警告說，人工智能工具中的現有護欄無法捕捉厭食症、貪食症和暴飲暴食等飲食失調的細微差別。他們“忽視了訓練有素的專業人員所依賴的微妙但臨床上重要的線索，導致許多風險沒有得到解決。”
但研究人員表示，許多醫生和護理人員不知道生成人工智能工具如何影響飲食失調患者。他們敦促醫生“熟悉流行的人工智能工具和平台”，對他們的弱點進行壓力測試，並坦誠地與患者談論他們如何使用它們。
