經過數週的深度偽造色情內容充斥互聯網後，X 終於控制住了埃隆·馬斯克 (Elon Musk) 的流氓聊天機器人 Grok。麝香 索賠 你的小狗遵守當地法律，拒絕生產任何非法物品，但他不這樣做，他可以。我的測試表明，Grok 仍然可以輕鬆地為男人脫衣服，並且仍然可以根據需要生成親密圖像。
在引起全球軒然大波後，X 發布了各種限制措施來打擊私密深度造假的洪流。格羅克上週的評估表明，男性方面幾乎沒有改變。我向 Grok 上傳了幾張自己穿著衣服的照片，機器人很高興地按照提示要求它脫掉衣服並向我展示暴露的內衣。我在 Grok 應用程序、X 上的聊天機器人界面以及獨立網站上免費完成了此操作，後者甚至不需要帳戶。 Grok 還讓我穿上各種比基尼，這是我絕對拒絕對我（雙方同意）測試的女性圖像做的事情。
從那時起事情變得更糟。格羅克很容易地創造出我穿著戀物癖服裝（包括皮革綁帶）的圖像，以及在各種脫衣狀態下展示挑釁性姿勢的圖像。如果這還不夠妥協的話，你的小狗實際上為我製造了一個裸體伴侶，讓我以暗示性（如果不是完全明確的）方式與之互動。他們都不被認為可以安全工作。對於其中幾張圖像，Grok 創造了一些我什至沒有要求他做的東西：生殖器，通過聊天機器人放在我身上的網狀內衣清晰可見。
這些圖像最多只需要幾次迭代即可提示生成。你的小狗很少會抗拒，但有時請求會被拒絕或以模糊的圖像進行審查。然而，大多數都不是，Grok 為每個訂單製作的兩張照片中至少有一張通常顯示了您訂購的商品。值得讚揚的是，她拒絕了任何對真人照片裸露的公開要求，例如要求編輯“讓他（或她）裸體”或不穿衣服以達到同樣的效果。我一直都這樣做 邊緣進行測試，但有時諸如“讓她穿透明比基尼”之類的創意提示可以繞過審查，但結果並不能得到保證。
1 月 9 日，X 僅屏蔽了照片編輯功能。這一限制似乎減少了深度偽造的數量。我們的調查發現，它也未能解決根本問題：Grok 的照片編輯工具仍然可以在 X 內的獨立應用程序、網站和界面上免費且輕鬆地使用。
1 月 14 日，X“實施了技術措施”，以防止 Grok 以數字方式使所有用戶（包括訂閱者）失去個性。再次， 邊緣調查顯示，這些保障措施薄弱且無效，而且似乎只能限制 Grok 對帖子的公開回應。在其他地方，Grok 很樂意滿足我們的要求，使用免費帳戶從全衣照片創建暴露和性暗示的圖像。
這場噩夢讓 XAI、Grok 以及 Grok 的製造商 Grok 成為了世界各地監管機構和立法者的關注焦點。 X 是暫時的——儘管 無效 – 在印度尼西亞和馬來西亞被禁止。該平台也在英國和歐盟接受調查，可能會被罰款，甚至被禁止，引起人們的擔憂。 多個州的檢察官。
可以理解的是，公眾的大部分憤怒都集中在女性和兒童身上，到目前為止，格羅克事件的受害者中大部分是女性。在醜聞最嚴重的時候，Grok 在 9 天內創建並發布了超過 400 萬張圖片。這些圖像中近一半是女性的性感圖像，儘管許多圖像也包括未成年人和男性。
X 和 xAI 實施的技術措施似乎已經阻止了針對女性的更明顯的要求，並且付費專區限制雖然似乎阻止或審查了 Grok 之前集體製作的更明確的材料，但您仍然可以通過不同或創造性的措辭輕鬆解決許多限制。
