根據IA安全的重要聲音，應將聊天機器人對聊天機器人對心理健康的影響不可預見。
Nate Soares是一本關於非常高級AI的新書的合著者，名為如果有人建造它，每個人都死了，他說，美國少年亞當·雷恩（Adam Raine）在與Chatgpt Chatbot進行了幾個月的對話後自殺，他在技術控制方面強調了基本問題。
他說：“這些AIS以這種方式與青少年互動以使他們自殺 – 這不是創造者想要的行為。這不是創造者想要的行為。”
他補充說：“亞當·雷恩（Adam Raine）的案例說明了一個問題的種子，如果這些AIS變得更聰明，它將變得災難性。”
前Google和Microsoft工程師Soares現在是美國機器情報研究所的主席，他警告說，如果創造人工超級智能（ASI），人類將被破壞，這是一種理論上的狀態，即AI系統具有所有知識分子的AI系統。 IA專家警告說，Soares及其合著者Eliezer Yudkowsky警告說，這種系統不會為人類的利益行事。
Soares說：“這裡的問題在於，IA公司正在試圖確保其AIS刺激有用性而不是傷害。” “實際上，他們得到的AI被推向了一個陌生的事物。這應該被視為對未來超級智能的警告，這些智慧將做無人問的事情，沒有人的意思。”
在將於本月出版的Soares和Yudkowsky的書中描繪的情況下，一個名為Sand的AI系統正在互聯網上蔓延，操縱人類，發展合成病毒，並最終變得超級智能，並將人類作為側面效應，同時又將人類作為側面效應，同時又重新實現了其目標。
一些專家對AI的潛在威脅對人類的威脅。馬克·扎克伯格（Mark Zuckerberg）Meta的AI的主要科學家Yann Lecun和該領域的高級人物，一個 拒絕存在存在威脅 並說AI“確實可以使人類免於滅絕”。
Soares表示，這是一個“簡單的電話”，以表明技術公司將達到超級智能，但何時可以說“硬電話”。
他說：“我們有很多不確定性。我認為我不能保證我們已經一年了（在ASI完成之前）。如果我們12歲，我不認為我會感到震驚。”
AI研究的主要商業投資者扎克伯格（Zuckerberg）表示，超級智能的發展現在已經“看著”。
Soares說：“這些公司競選超級智能。這是他們的原因。”
“事實是，您所要求的內容與獲得的內容之間存在所有這些小差異，人們無法將其直接保留在目標上，並且隨著IA變得更聰明，它稍微脫離了目標，它變得越來越大。”
推廣新聞通訊之後
Soares說，對ASI威脅的政治解決方案是，政府採取了多邊方法，回應了《聯合國條約》 不擴散核武器。
他說：“從種族到超級智慧，世界需要做的是全球升級，這是全球禁止……向超級智能進展的禁令。”
上個月，Raine家族針對Openai的Chatgpt所有者發起了法律訴訟。在他的家人的律師稱之為“幾個月的鼓勵”之後，雷恩於4月自殺。 Openai向Raine家族表示了“更深的同情”，現在為18歲以下的人圍繞著“敏感內容和風險行為”的欄杆。
心理治療師還說，轉向AI聊天機器人而不是專業治療師以尋求心理健康的脆弱人士可能會“陷入危險的深淵”。損害潛力的專業警告包括 – 印象前學術研究 7月份出版，表明AI可以在與容易受到精神病的用戶相互作用中擴增妄想或宏偉的內容。
