人工智能的增加增加了對倫敦類似數據中心的需求
傑森·奧爾登（Jason Alden）/彭博通過碼頭圖片
如果有人建造它，每個人都會死
Elizer Yoodkovsky和Nate Sorres（英國Bodley Head； Little，Brown，US）
在人類生存的充實中，我們有很多可怕的事情要擔心。大多數人更多地在列表中尋找困難，氣候變化和幸福，但是對於一些致力於一些人的人來說，焦慮會增加：人工智能最終摧毀了人類的人類。
Eliger Yoodkovsky 這個原因已在加利福尼亞的機器情報研究所（MIRI）中轉變了四分之一世紀。然後，我們進入了Chatgpt時代，他關於AI安全的想法被進入主流，技術首席執行官和政客引起了共鳴。
寫作 內特·索雷斯也在美里， 如果有人建造它，每個人都會死 Yoodkovsky試圖在整個社區中獲取簡單，易於消化的信息。它在這個目標中完全成功，來自斯蒂芬·弗萊（Stephen Fry）和馬克·魯法洛（Mark Rufalo）等名人的每個人都被淹沒在包括菲奧娜·希爾（Fiona Hill）和本·伯南克（Ben Bernanke）在內的重量級政策。問題在於，如果強迫力量，則該論點是致命的。
在解釋原因之前，我同意我並不致力於在Yoodkovsky的深處考慮到這個問題。但是，我不會不思考就不會解僱它。我已經關注Yoodkovsky的工作多年了，他的頭腦非常有趣。我讀了他660,000字的粉絲的想像力，真的很喜歡 哈利·波特與理性主義的方法在這方面，他證明了理性主義的哲學是合理的，後者與AI的安全和有效的一致性運動有著密切的關係。
這三個運動試圖從第一原則中獲得世界，應用邏輯和證據。所以Yoodkovsky和瘡，好理性主義者，開始 如果有人建造它，每個人都會死 即使是第一原則。早期章節解釋說，物理定律中沒有什麼可以阻止上等智力的出現。我認為這是完全有爭議的。然後，下一章很好地解釋瞭如何像Power Chatzipiti一樣創建大型語言模型（LLM）。 “ LLM和人類都是句子製作的機器，但它們是由不同的過程設計的。”我完全同意這對夫婦。
我們開始分開的第三章。 Yoodkovsky和Sorres解釋了AIS如何表現為“渴望”，而同時“想要”了機器來解決真正的哲學問題。他們指的是OpenAI的O1模型的測試，該模型出乎意料地證明了意外行為，以完成“不可能”的網絡安全挑戰，這表明該模型是該模型希望成功的標誌。就我個人而言，在這種情況下，我很難閱讀任何衝動 – 如果我們在河裡放一個水壩，河流不會“放棄”它跳過它的努力，但河流什麼也不做。
隨後，一些章節處理了所謂的AI安排問題，一旦AI想要，就不可能以人類實現其目標，而超級聰明的AI希望使用所有最終會增加其願望的成分和能量。這個想法以前在哲學家尼克·博斯特羅姆（Nick Bostrom）上很受歡迎，據稱是製作紙剪輯的AI，並且最終試圖將其全部變成紙剪輯。
當然 – 但是如果我們關閉它？對於Yoodkovsky和瘡，這是不可能的。他們的立場是，不足以區分AI（我的話，而不是他們的話）以及防止其死亡的各種方法。在加密貨幣方面，人類在一個案件中的AI中，從一個策劃的AI中競標人（我認為，我認為，但我們會再次回到“慾望”問題）使我們能夠直接侵入大腦，直到找到了以前未知的人類神經系統表現（我確定？）。
如果您發現這樣的場景，AI自然而然地感到可怕。對於這對夫婦的AI高原的代碼，就最新的GPT-5型號而言，這可能是秘密超級智能AI摧毀其競爭對手的結果。似乎沒有什麼可做的。
那麼，我們該怎麼辦？ Yoodkovsky和Morres有許多政策處方，所有這些都是胡說八道。首先，為當前AI革命提供電的計算機芯片應僅限於圖形處理單元（GPU）。他們說，在不提交核式監督的情況下，擁有超過2024-GPU的八個以上是非法的。比較，元數據至少有35萬芯片。一旦生效，國家必須準備通過轟炸未經訓練的數據中心來實現這些限制，儘管它損害了核戰爭，”因為數據物可能殺死的比核武器還要多”（他們的重要性）。
深吸一口氣。我們是怎麼到達這裡的？對我來說，這是帕斯卡賭注的一種形式。數學家Blaze Pascal宣稱，像上帝基於某些正常數量一樣，過著您的生活是合理的。如果上帝的存在，這種信念將構成您的天堂無限利潤，不要相信地獄中的無限損害。如果上帝不存在，那麼，您將因過上美德生活而失去一點，但只有那麼多。相信養育幸福的道路。
同樣，如果您通過酷刑堆疊甲板，即AI可以導致無限的邪惡，則可以防止它。儘管今天的理性主義者正在遭受痛苦，但這種想法的理性主義者在現在被認為是合理的，只要他們在未來創造幸福的人類。
顯然，我不明白某人在他們的日子裡如何去。那些還活著的人。我們有慾望和煩惱。由於氣候變化受到我們數十億美元的威脅，因此沒有提及 如果有人建造它，每個人都會死。超級智能的AI是科幻的AI，現在和今天，並分配了我們在這裡解決科學問題的權力。
