安全研究人員已任命Chatgpt為共同圈子，以從Gmail收件箱中利用敏感數據，而不會警告消費者。被剝削的漏洞被Openai封閉，但這是Agent AI固有的新風險的一個很好的例子。
朝鮮， 被稱為陰影洩漏 然後 本週的安全機構發布了Rodware人工智能依靠對代理的工作方式依靠陰謀。 AI代理可以在沒有一致的監督的情況下單擊網絡並單擊鏈接。在消費者授權訪問個人電子郵件，日曆，工作文件等之後，AI公司稱他們為巨大的計時器。
Rodware的研究人員已經通過一種攻擊來利用這種援助，稱為迅速注射，攻擊者指示攻擊者有效地工作。如果沒有關於剝削工作的事先了解，就不可能防止強大的工具，黑客已經以創造性的方式添加了它們 操縱同行評審是，又有， 執行欺詐並控制智能房屋。用戶通常不知道，因為這些說明可以隱藏在平面視圖中（對於人類），例如作為背景中的白色文本。
在這種情況下，雙重代理的更深入的研究，今年早些時候嵌入了Chatgpiti中的AI工具。 Radware研究人員在發送給Gmail收件箱的電子郵件中快速注射，該收件箱可以訪問該代理商。那裡正在等待它。
當用戶嘗試使用隨後的深入研究時，他們在不知不覺中就知道陷阱。代理商面對隱藏的說明，搜索人力資源電子郵件和個人詳細信息，並將其偷運到黑客上。受害者仍然是明智的。
讓代理去ROG – 以及成功檢測數據，可以採取步驟來防止任何公司 – 這不是一件容易的事，並且有很多反複試驗。研究人員說：“這一過程使失敗的嘗試失望和障礙感到失望，最後進步。”
研究人員說，與大多數提示注射不同，陰影洩漏已在Openai的雲基礎架構上執行，並直接從那裡洩漏。他們寫道，標準網絡保護不可見。
Rodware警告說，這項研究是驗證巴萬，與深入研究相關的其他應用程序將受到此類攻擊，包括Lo Tuk，Gitub，Google Drive和Dropbox。他們說：“可以將相同的技術應用於這些其他連接器，以抵制最敏感的業務數據，例如合同，會議筆記或客戶記錄。”
研究人員說，Openai現在在6月插入了Rodware Flags。
