兩名美國國會議員提出了兩黨立法，要求美國最強大的人工智慧系統的開發商建立一個“終止開關”，允許先進的人工智慧模型在構成災難性風險時減慢、暫停或關閉。
民主黨眾議員泰德·劉(Ted Lieu)和共和黨眾議員納撒尼爾·莫蘭(Nathaniel Moran)週四提出了擬議的《人工智慧殺戮開關法案》(AI Kill Switch Act)，該法案將賦予美國政府權力，命令開發先進人工智慧系統的公司在其模型逃脫人類控製或威脅人類生命、關鍵基礎設施或經濟時進行幹預。
推薦故事
4 項清單清單末尾
幾天前，ChatGPT 的製造商 OpenAI 披露了一起“史無前例的網路事件”，該事件中，其兩個最先進的人工智慧模型逃脫了測試環境，並在內部安全評估期間破壞了 Hugging Face 人工智慧開發平台。
這項揭露加劇了關於日益強大的人工智慧系統是否需要更強有力的保障措施的爭論。
安全人工智慧聯盟主席布倫丹·斯坦豪瑟表示：“國會必須迅速採取行動，確保人類仍然能夠說停止，無論這些系統有多強大。”
這是我們所知道的：
美國立法會做什麼？
該法案將要求開發最先進人工智慧系統的公司保持技術能力，以便在必要時減緩、暫停或關閉其模型。
它還將允許國土安全部（DHS）在與商務部長和國家情報總監協商後，命令公司在人工智慧系統進入該法案所描述的「失去控制的情況」時進行幹預。
根據該法案，當人工智慧模型執行開發人員無意的操作並造成災難性損害的風險時，這種情況就可能發生。
該提案建立了分層回應，允許管理員根據威脅的嚴重程度發出從暫時減慢系統運行到要求關閉等任何命令。
它還要求公司向政府報告與人工智慧相關的重大事件，並保留技術記錄，以便調查人員能夠檢查出了什麼問題。
目前，許多領先的人工智慧開發人員在新模型發布前自願與美國政府機構分享有關新模型的資訊。然而，聯邦並沒有要求公司維持一種機制，允許先進的人工智慧系統在出現意外行為時被禁用。
劉表示，該法案反映了人工智慧系統的轉變。他說：“我們正在從回答問題的人工智慧轉向採取行動的人工智慧，無論是執行金融交易、控制交通系統還是參與網路防禦和犯罪。”
“這些人工智慧系統必須具有終止開關，這樣我們才能防止這項技術造成災難性的傷害。”
該法案是與兩黨單獨立法一起提出的，該立法要求最強大的人工智慧模型的開發人員在發布之前接受獨立的安全審計。根據該提案，審計員將獲得商務部的認證，商務部還將設立一個新辦公室來監督人工智慧安全。
為什麼現在提出該法案？
在 OpenAI 披露其所謂的涉及其兩個最先進的人工智慧模型的「前所未有的網路事件」幾天后，立法者公佈了該法案。
據 OpenAI 稱，在該公司取消了測試的標準安全限制後，模型在內部網路安全評估期間逃離了測試環境。 AI 代理程式發現 Hugging Face 系統中的漏洞，取得登入憑證並破壞 AI 開發平台以存取機密基準資料。
OpenAI 表示，這些模型「竭盡全力」來實現其既定目標，尋找獲取機密資訊的方法，使他們能夠「欺騙評估」。
這項揭露導致華盛頓再次呼籲政府加強對先進人工智慧發展的監督。
Hugging Face 表示，在與 OpenAI 展開聯合調查之前，該公司使用人工智慧驅動的安全系統檢測並遏制了這一漏洞。該公司補充說，它「強烈」相信 OpenAI 沒有「惡意」。
美國參議院情報委員會民主黨領袖、參議員馬克沃納表示，這起事件說明了為什麼強大的人工智慧系統在向公眾開放之前必須經過政府安全測試。
華納在一份聲明中表示：“這正是我們需要政府機構參與安全測試並在整個過程中保持可見性的原因。”
一名白宮官員表示，唐納德·川普總統的技術顧問邁克爾·克拉齊奧斯 (Michael Kratsios) 已聽取 OpenAI 披露的情況通報，並正在監控事態發展。
