Anthropic 週二表示，其尚未發布的人工智慧模式 Claude Mythos 已被證明非常擅長暴露軟體的弱點。
Mythos 暴露了常用應用程式中的數千個漏洞，而這些漏洞沒有修補程式或修補程式存在，促使這家位於舊金山的人工智慧新創公司與網路安全專家結盟，以加強對駭客的防禦並防止廣泛傳播。
「我們有一個新模型，但我們沒有明確公開，」Anthropic Labs 的 Mike Krieger 在舊金山舉行的 HumanX AI 會議上說道。
相反，Anthropic 讓開源社群的網路安全專家和工程師與 Mythos 合作，將該模型用作防禦武器，“有點提前武裝他們”，Krieger 解釋道。
人工智慧模型功能的進步引起了人們的擔憂，即駭客正在使用此類工具來確定密碼或破解旨在保護資料安全的加密。
據 Anthropic 稱，Mythos 發現的最古老的漏洞可以追溯到 27 年前，在被 AI 模型識別之前，其創建者並沒有明顯注意到這些漏洞。
Mythos 是 Anthropic 的 Claude AI 系列的最新一代產品，最近其部分程式碼的洩漏促使這家新創公司發布了一篇博文，警告稱它帶來了前所未有的網路安全風險。
Anthropic 在一篇部落格文章中表示：“人工智慧模型的編碼能力已經達到了一定水平，在發現和利用軟體漏洞方面，它們的表現可以超越除了最熟練的人類之外的所有人。” “對經濟、公共安全和國家安全而言，後果可能很嚴重。”
據 Anthropic 稱，Mythos 暴露的軟體漏洞通常很微妙，如果沒有人工智慧，很難檢測到。例如，Mythos 在視訊軟體中發現了一個以前未被注意到的缺陷，該軟體的創建者已經測試了超過 500 萬次。
作為預防措施，Anthropic 在一個名為「Glasswing」的專案中與網路安全公司 CrowdStrike 和 Palo Alto Networks，以及亞馬遜、蘋果和微軟分享了 Mythos 的一個版本。
網路巨頭思科和博通與 Linux 基金會一起參與了該項目，該基金會推廣免費開源的 Linux 電腦作業系統。
「這項工作太重要、太緊迫，無法單獨完成，」思科首席安全和信任官 Anthony Grieco 在一份關於 Glasswing 的聯合聲明中表示。 “人工智慧能力已經跨越了一個門檻，從根本上改變了保護關鍵基礎設施免受網路威脅所需的緊迫性，而且沒有回頭路。”
據報道，約有 40 個參與 IT 系統設計、維護或營運的組織已加入 Glasswing。據 Anthropic 稱，專案合作夥伴預計將分享他們在 Mythos 上的發現，該公司將為該任務提供約 1 億美元的計算資源。 Grieco 表示，人工智慧模型的早期研究表明，它們可以以前所未有的速度和規模來幫助發現和修復軟體和硬體漏洞。
Crowdstrike 技術長 Elia Zaitsev 表示：“發現漏洞與攻擊者利用漏洞之間的時間間隔已經消失，過去需要數月才能完成的事情，現在透過人工智慧只需幾分鐘即可完成。”
他補充說：“克勞德神話預覽版展示了防御者現在可以實現的規模化能力，而對手將不可避免地尋求利用相同的功能。”
Anthropic 表示，儘管白宮 2 月發布行政命令終止了與該新創公司的所有合同，但該公司已就 Mythos 問題與美國政府進行了討論。該指令被聯邦法院法官擱置，而 Anthropic 向法院提出了法律挑戰。
