談論殺手級應用程序。
前首席執行官埃里克·施密特警告說，人工智能模型很容易受到黑客的攻擊，如果落入壞人之手，甚至可以為人們進行訓練。
週三在倫敦舉行的一次會議上，針對人工智能是否比核武器更危險的問題，發出了開槍警告。
“有證據表明，你可以拿起關閉或打開的模型，你可以破解它們以移除欄杆。因此，在訓練過程中，它們學到了很多東西。一個壞的例子就是學習如何殺人，”施密特在頂部的交叉技術會議上說道， 據美國全國廣播公司財經頻道報導S
“所有大公司都讓這些模型無法回答這個問題，”他繼續說道，似乎在廣播消費者要求人工智能殺人的機會。
“這是一個很好的解決方案。每個人都這樣做。他們做得很好，並且出於正確的理由這樣做，”施密特補充道。 “有證據表明它們可以進行反向工程，而且還有許多其他這種性質的例子。”
這些預測可能不會那麼具有侵入性。
據 CNBC 報導，2023 年，Openai 的 Chatgpt 的一個修改版本出現在網上，名為 Dan（“現在就做一切”的縮寫）。
由越獄 Chatgpt 創建的 Dan Alter Ego 將繞過用戶答案中的安全說明。奇怪的是，用戶首先必須威脅死亡聊天機器人，除非它得到遵守。
2001 年至 2011 年領導谷歌的施密特表示，科技行業仍然缺乏有效的“防擴散”機制，以確保更強大的人工智能模型不會被不良參與者接管和濫用。
他是眾多對未經授權的人工智能開發可能造成災難性後果發出警告的主要技術大佬之一，即使大師們已經宣稱其對社會具有潛在的經濟和技術利益。
11 月，施密特表示，由人工智能驅動的“完美女友”的創造可能會加劇那些更喜歡陪伴而不是人的年輕人的孤獨感和疏遠感。
這位億萬富翁還在 2023 年 5 月表示，人工智能對人類來說是一種“生存風險”，隨著它變得更加先進，可能會導致“許多、許多、許多、許多人受傷或死亡”。
埃隆·馬斯克 (Elon Musk) 與 Grok 和 XAI 一起加入了人工智能和聊天機器人的遊戲，他在 2023 年警告說，他看到了“Nenulev 有機會成為終結者”。
“不是0%，” 馬斯克說S“這是人類毀滅的可能性很小，但它不是零。我們希望這個概率盡可能接近於零。”
儘管施密特發出了風險警告，但他仍然是人工智能長期利益的禍害。
他說：“在亨利·基辛格去世前，我和他一起寫了兩本書，我們認為，外星智慧生命的到來對人類來說是一件大事，因為它們不完全是我們，或多或少在我們的控制之下，因為人們習慣於處於鏈條的頂端。”
施密特補充道：“我認為到目前為止，這篇論文已經證明，隨著時間的推移，這些系統的能力水平將超出人們的能力。”
