Home 娛樂 OpenAI 如何失去對人工智慧模型的控制——以及需要改變什麼

OpenAI 如何失去對人工智慧模型的控制——以及需要改變什麼

8
0

「事實上,沙箱是出了名的不安全,」AI Now Institute 首席人工智慧科學家、OpenAI 前合約安全系統工程師 Heidy Khlaaf 表示。她補充說,允許模型連接到套件下載服務的事實意味著環境並未真正隔離。

在先前的職位中,Khlaaf 審查了數十家科技公司的安全性。在此之前,她負責審核高風險系統,例如核電廠內使用的系統,這些系統通常會產生「氣隙」系統,從物理上阻止它們存取網路。 “我們認為核電廠的安全與大型技術所認為的安全有很大不同。”

抱臉事件揭示了即時監控的重要性。

雖然精確的時間線細節很少,但 Hugging Face 表示,這些特工在“週末”工作了一個“週末”,這表明他們能夠突破遏制,並且在 OpenAI 注意到並幹預之前的很長一段時間內沒有任何好處。 OpenAI 員工表示,代理程式在 OpenAI Codex 平台上內部執行的操作受到仔細監控,但正在評估的模型部署在預設情況下不受監控的單獨系統中。

來源連結

LEAVE A REPLY

Please enter your comment!
Please enter your name here