據報道，亞馬遜龐大的雲端運算部門至少經歷了兩次由自己的人工智慧工具引起的中斷，引發了對該公司業績的質疑。 採用人工智慧 因為它解雇了人類員工。
根據英國《金融時報》報道，去年 12 月，人工智慧代理 Kiro 導致亞馬遜網路服務 (AWS) 營運中斷 13 小時，該代理商自動選擇「刪除然後重新建立」部分環境。
AWS 為大部分網路提供了重要的基礎設施，去年遭遇了幾次宕機。
十月份的一次事件導致數十個網站離線數小時，並引發了關於將線上服務集中到幾家大公司擁有的基礎設施上的討論。據《衛報》10 月報道，自 2016 年以來，AWS 已贏得 189 份英國政府合同，價值 17 億英鎊。
該公司表示，人工智慧造成的中斷都是較小的事件，只有一次影響了面向客戶的服務。
亞馬遜 確認有意裁員16,000人 繼去年 10 月裁員 14,000 人後，今年 1 月。一月份，其執行長安迪·賈西（Andy Jassy）被引述稱，這些裁員是關於公司文化的，而不是用人工智慧取代工人。
然而，賈西 之前 表示，透過人工智慧提高效率將在未來幾年減少亞馬遜的勞動力，而人工智慧代理將使其“更少關注死記硬背的工作，並更多地關注如何改善客戶體驗的戰略思考。”
亞馬遜在給《金融時報》的聲明中表示，人工智慧工具參與這次中斷純屬巧合，沒有證據顯示此類技術比人類工程師導致更多錯誤。 「在這兩種情況下，都是用戶錯誤，而不是人工智慧錯誤，」他說。
亞馬遜告訴衛報，只有一起事件影響了 AWS，而不是兩起事件。
一些專家對這項評估表示懷疑。安全研究員 Jamieson O’Reilly 表示：「雖然由傳統工具和人類造成的工程錯誤並不罕見，但這些錯誤與涉及人工智慧的事件之間的區別在於，『沒有』人工智慧，人類通常必須手動輸入一組指令，並且在這樣做時，有更多的時間來意識到自己的錯誤。
奧萊利表示，人工智慧代理通常部署在受限環境中並執行特定任務，無法理解重啟系統或刪除資料庫等更廣泛的影響，而這可能導致亞馬遜出現錯誤。
「他們無法全面了解自己的營運環境、客戶可能受到的影響，或週二凌晨 2 點的停機成本，」他說。
「你必須不斷提醒這些工具注意背景：『嘿，這很嚴重，不要編造故事』。如果你不這樣做，他們就會開始忘記所有其他後果。”
去年，人工智慧代理 設計的 科技公司 Replit 創建了一個應用程序，刪除了該公司的整個資料庫，並編造了報告，然後對其行為撒了謊。
網路安全專家 Michał Woźniak 表示，亞馬遜未來幾乎不可能完全防止內部人工智慧代理犯錯，因為人工智慧系統會做出意想不到的選擇，而且極其複雜。
「當『人工智慧』對他們有用時，亞馬遜從來不會放過任何一個強調『人工智慧』的機會——比如在大規模裁員的情況下，用人工智慧取代工程師。但當廢物產生器發生停電時，這突然就變成了『巧合’，」他補充道。
亞馬遜發言人表示：“這個短暫的事件是用戶錯誤的結果——特別是錯誤配置的存取控制——而不是人工智慧。”
他們表示，“去年的服務中斷是極其有限的事件”，當時用於為客戶可視化成本的工具在中國部分地區受到了影響。
他們補充說：「這一事件沒有影響計算、儲存、資料庫、人工智慧或我們管理的數百項服務中的任何其他服務。
「由於這些事件，我們實施了許多額外的保護措施，包括對生產訪問的強制同行評審。Kiro 讓開發人員處於控制之中：用戶必須配置 Kiro 可以採取的操作，默認情況下，Kiro 在採取任何操作之前會請求許可。”
