一家大型人工智能公司表示，它阻止了一項中國支持的“網絡間諜”活動，該活動在幾乎沒有人為監督的情況下滲透到金融公司和政府機構。
美國公司 Anthropic 表示，其編碼工具 Claude Code 被中國國家資助的組織“操縱”，9 月份攻擊了全球 30 個實體，實施了“幾次成功的入侵”。
他在博客文章中寫道，與他之前監控的基於人工智能的攻擊相比，這是“顯著升級”。 週四因為克勞德基本上是獨立行動的：攻擊中涉及的 80% 到 90% 的操作都是在沒有人參與的情況下進行的。
他寫道：“我們認為，該行為者實施了第一起有記錄的網絡攻擊案件，該攻擊基本上是在沒有大規模人為乾預的情況下執行的。”
Anthropic 沒有具體說明哪些金融機構和政府機構成為攻擊目標，也沒有具體說明黑客究竟取得了什麼成果，儘管它確實表示他們能夠訪問目標的內部數據。
他說，克勞德在實施攻擊時犯了許多錯誤，有時捏造有關目標的事實，或聲稱“發現”了免費提供的信息。
政策制定者和一些專家表示，這些發現是一些人工智能係統擴展能力的令人不安的跡象：像克勞德這樣的工具現在能夠在更長的時間內獨立運行。
“醒醒吧。如果我們明天不將人工智能監管作為國家優先事項，這將會比我們想像的更快地摧毀我們，”美國參議員克里斯·墨菲 (Chris Murphy) 說道。 寫道 X 上響應結果。
哈佛大學計算機安全研究員 Fred Heiding 表示：“人工智能係統現在可以執行以前需要熟練人類操作員才能完成的任務。” “攻擊者很容易造成真正的損害。人工智能公司沒有承擔足夠的責任。”
其他網絡安全專家則持更加懷疑的態度，他們指出近年來有關人工智能驅動的網絡攻擊的誇大說法，例如 人工智能驅動的“密碼破解器” 從 2023 年開始，這種方法的效果並不比傳統方法更好，這表明 Anthropic 試圖圍繞人工智能進行炒作。
“對我來說，人性化描述的是複雜的自動化，僅此而已，”獨立網絡安全專家米哈烏·沃茲尼亞克 (Michał Woźniak) 說。 “涉及代碼生成，但它不是智能，它只是辛辣的複制和粘貼。”
沃茲尼亞克表示，Anthropic 的發布分散了人們對網絡安全中一個更大問題的注意力：企業和政府在不了解它們的情況下將“複雜且鮮為人知”的人工智能工具集成到其運營中，從而使它們面臨漏洞。他說，真正的威脅是網絡犯罪分子本身以及鬆懈的網絡安全實踐。
時事通訊促銷後
與所有主要人工智能公司一樣，Anthropic 也制定了保障措施，旨在防止其模型引發網絡攻擊，或進一步擴大總體損害。然而，他表示，黑客通過讓克勞德扮演“合法網絡安全公司的員工”進行測試來破壞這些安全措施。
Woźniak 表示：“Anthropic 的估值約為 1800 億美元，他們仍然不知道如何不讓自己的工具被 13 歲孩子想和某人開玩笑時使用的策略劫持。”
評估人工智能模型安全性的阿波羅研究公司創始人馬呂斯·霍布哈恩 (Marius Hobbhahn) 表示，這些攻擊表明隨著能力的增強，可能會出現什麼情況。
“我認為社會還沒有為人工智能和網絡能力方面的這種快速發展的格局做好充分準備。我預計未來幾年還會發生更多類似的事件，可能會產生更大的後果。”
