網絡瀏覽器的語言非常糟糕。上週，OpenAI 和微軟通過 ChatGPT 的 Atlas 和 Edge 的“副駕駛模式”將人工智能瀏覽器競賽推向高潮。他們可以回答問題、總結頁面並代表您採取行動。這種體驗仍然是無縫的，但它預示著一個更加方便、不干涉的未來，您的瀏覽器會為您完成大部分思考。網絡安全專家警告說，未來可能會成為新漏洞和數據洩露的雷區。研究人員表示，跡像已經出現 邊緣 混亂才剛剛開始。
Atlas 和 Copilot 模式是控制互聯網網關並將人工智能直接植入瀏覽器的更廣泛努力的一部分。這一推動力將曾經位於單獨頁面或應用程序上的獨立聊天機器人轉變為您用來瀏覽網絡的平台。他們並不孤單。像谷歌這樣的老牌企業也參與了這場競爭，谷歌正在將其 Gemini AI 模型集成到 Chrome 中。 Opera 推出了 Neon；以及 Dia 瀏覽器公司。初創公司也有興趣提出這一主張，例如人工智能初創公司 Perplexity（以其人工智能驅動的搜索引擎而聞名，它在 10 月初向所有人免費提供了人工智能驅動的瀏覽器 Comet）以及瑞典的 Strawberry（該公司仍處於測試階段） 積極追隨“沮喪的 Atlas 用戶”。
就在過去幾週，研究人員發現 Atlas 中的漏洞 允許攻擊者利用 ChatGPT 的“內存”注入惡意代碼、授予自己訪問權限或執行惡意軟件。 彗星中發現的缺陷 這可能允許攻擊者通過隱藏指令劫持瀏覽器的人工智能。困惑， 通過博客OpenAI 的首席信息安全官 Dane Stuckey 上周承認，即時注入是一個重大威脅，但兩人都將其描述為一個“邊緣”問題，沒有固定的解決方案。
倫敦帝國理工學院以人為中心的系統教授、網絡瀏覽器公司 Brave 的首席科學家哈米德·哈達迪 (Hamed Haddadi) 表示：“即使有一些嚴厲的警衛，攻擊面也很大。”而我們所看到的只是冰山一角。
對於人工智能瀏覽器來說，威脅有很多。首先，它們對你的了解更多，並且“比傳統瀏覽器更強大”，加州大學戴維斯分校的計算機科學研究人員亞甚·維卡里亞 (Yash Vekaria) 說。維卡里亞說，不僅僅是標準瀏覽器，“還存在被瀏覽器跟踪和分析的迫在眉睫的風險。”人工智能“記憶”功能旨在從用戶所做或分享的所有內容中學習，從瀏覽、電子郵件到搜索以及與內置人工智能助手的對話。這意味著您共享的內容可能比您意識到的多得多，並且瀏覽器會記住所有這些。維卡里亞說，其結果是“比以往任何時候都更具侵入性”。黑客希望獲得這些信息，特別是如果它與信用卡詳細信息和登錄憑據（這些信息通常在瀏覽器中找到）結合在一起。
另一個威脅是任何新技術的推出所固有的。無論開發人員多麼小心，都不可避免地存在可供黑客利用的漏洞。這可能包括意外暴露敏感數據的錯誤和編碼錯誤，以及允許黑客訪問您的系統的重大安全漏洞。 “現在還為時過早，所以預計會出現危險的漏洞，”獨立網絡安全研究員、倫敦國王學院客座高級研究員盧卡斯·奧萊尼克 (Lukasz Olejnik) 說。他指出“早期的辦公室宏漏洞、惡意瀏覽器擴展以及引入權限之前的移動設備”是與新技術推出相關的早期安全問題的例子。 “又來了。”
有些漏洞從未被發現——有時會導致毀滅性的零日攻擊，其中有零日時間來修復缺陷——但徹底的測試可以減少潛在問題的數量。哈達迪說，對於人工智能瀏覽器，“最大的直接威脅是市場擁堵”。 “這些代理瀏覽器尚未經過充分測試和驗證。”
但人工智能瀏覽器的定義功能——人工智能——才是最嚴重的威脅所在。最大的挑戰來自於代表用戶行事的人工智能代理。像人類一樣，他們能夠訪問可疑網站，點擊欺詐鏈接，並在敏感信息不應該輸入的地方輸入敏感信息，但與某些人不同的是，他們缺乏有助於確保我們在線安全的常識。特工也可能出於邪惡目的而被誤導和劫持。它所需要的只是正確的指示。所謂的提示注入範圍從明顯到微妙，有效地隱藏在圖像、屏幕截圖、表單字段、電子郵件和附件中，就像白色背景上的白色文本一樣簡單。
更糟糕的是，這些攻擊很難預測和防禦。哈達迪說，自動化意味著不良行為者可以不斷嘗試，直到特工按照他們想要的方式行事。 “與代理的交互允許無休止的‘試錯’配置和探索插入惡意提示和命令的方法。”黑客在與代理交互時有更多的機會闖入，從而為潛在攻擊打開了巨大的空間。肯特大學網絡安全教授 Shujun Li 表示，因此“零日漏洞呈指數級增長”。更糟糕的是：由於錯誤是從代理開始的，檢測也會被延遲，這意味著更嚴重的違規行為更有可能發生，李說。
不難想像接下來會發生什麼。 Olejnik 看到了這樣的場景：攻擊者利用隱藏線索讓 AI 瀏覽器發送個人數據或通過更改購物網站上保存的地址來竊取購買的物品。更糟糕的是，維卡里亞警告說，鑑於人工智能瀏覽器的現狀，儘管採取了安全措施，“很容易發動攻擊”。 “瀏覽器供應商還有很多工作要做，才能讓瀏覽器對最終用戶來說更加安全、可靠和私密，”他說。
對於某些威脅，專家表示，使用人工智能瀏覽器保持安全的唯一真正方法是完全避免使用字幕功能。李建議人們“僅在他們絕對需要時”才使用人工智能，並且知道自己在做什麼。他說，瀏覽器應該“默認在無人工智能模式下運行”。如果您必須使用人工智能代理功能，Vecaria 建議使用手持級別。設置任務時，請提供您知道安全的經過驗證的網站，而不是讓代理自行確定。 “它最終被詐騙網站引用和使用，”他警告說。
