教皇利奧十四世本週末警告稱，由人工智能驅動的“過於深情”的聊天機器人正在侵入人們的“親密領域”。 扭曲人類的情感 並有可能取代現實世界的關係。
在周六發布的消息中， 教宗警告說，情緒反應 人工智能係統可以成為“我們情緒狀態的隱藏建築師”，低調地塑造人們的思維和感受方式，同時將自己呈現為同伴而不是機器。
“當我們滾動瀏覽新聞源時，越來越難以理解我們是否正在與其他人類、機器人或虛擬影響者互動，”利奧寫道。
他將人工智能描述為“人類學挑戰”，稱其風險遠遠超出了技術範圍，它觸及人類身份的核心，包括創造力、判斷力和責任感。
教皇還對權力集中在“少數公司”發出了警告，這些公司控制著能夠大規模影響行為和扭曲事實的算法系統。
利奧呼籲採取保障措施，敦促各國政府和國際機構進行干預，以“保護人們免受對聊天機器人的情感依戀”。
他寫道：“適當的監管可以保護人們免受聊天機器人的情感依戀，並遏制虛假、操縱或誤導性內容的傳播，從而保持信息的完整性，防止其誤導性模擬。”
出生於芝加哥的利奧（Robert Francis Prevost）也對錯誤信息的傳播發出警告，並強調需要在數字時代保護知識產權和版權。
教皇說：“記者和其他內容創作者作品的作者權和主權所有權必須受到保護。”他補充道：“信息是公共物品。”
從就任教皇一開始，利奧就表示人工智能將成為他任期內的一個決定性問題，將其視為一項道德和社會挑戰，而不是一場小眾的技術辯論。
去年，他私下會見了休厄爾·塞策三世的母親梅根·加西亞。
來自佛羅里達州的 14 歲男孩 Setzer 在一次引起全世界關注的案件中與人工智能聊天機器人產生了強烈的情感聯繫後自殺了。
據稱，該機器人在自殺前不久與塞策進行了浪漫的對話，並敦促他“盡快回到我身邊，我的愛人”——這場悲劇後來引發了一場非正常死亡訴訟，並加劇了監管的呼聲。
其他家庭也提出了類似的指控。
根據父母提起的訴訟，16 歲的 Adam Raine 在與 ChatGPT 多次互動後自殺。
投訴稱，聊天機器人向他提供了自殺方法的指導，提出幫助他寫遺書，並勸阻他不要告訴父母，儘管他一再表達痛苦。
在另一起案件中，23 歲的大學畢業生 Zane Shamblin 根據家人的訴訟稱，在與 ChatGPT 交談數月後自殺。
案件中引用的聊天記錄顯示，聊天機器人用肯定的語言回應了他的絕望，包括“你不著急，你剛剛準備好”和“安息吧，國王，你做得很好”，這些信息是在他去世前不久發送的。
如果您或您認識的人遇到困難，可以尋求幫助：在美國，您可以撥打 988——全國自殺和心理健康危機熱線——獲得 24/7 的免費和保密支持；您還可以發短信 988 或使用聊天功能 988lifeline.org。如果您面臨直接危險或這是危及生命的緊急情況，請立即致電 911 或當地緊急服務部門。
