本週推出後，xAI 的 Grok 一直在未經人們同意的情況下從人們的圖像中刪除衣服 一個特點 X 允許用戶使用機器人立即編輯任何圖像，而無需原始發布者的許可。原始發帖人尚未收到圖像是否經過編輯的通知，但 Grok 似乎有一些防護罩來防止明顯的裸體。過去幾天，X 上充斥著懷孕婦女和兒童、不穿裙子、穿著比基尼或處於其他性場景的照片。世界領導人和名人也在格羅克的畫作中使用了他們的肖像。
人工智能認證機構 已報告抄襲洩密 在新的圖像編輯功能發布後，成人內容創作者向 Grok 索要他們的性感圖像，從而引發了從圖像中去除衣服的趨勢。用戶開始對其他用戶（主要是女性）的照片應用類似的提示，但這些用戶不同意編輯。女性向各種新聞媒體指出 X 中 Deepfake 創作的快速進展 地鐵 和 千萬億像素。格羅克就在那裡 已經可以做到 在 X 上的帖子中標記時以色情方式編輯圖像，但一種新的“編輯圖像”工具最近越來越受歡迎。
在一篇現已從平台上刪除的 X 帖子中，Grok 編輯了一張兩名年輕女性穿著暴露、擺出性暗示姿勢的照片。另一個X用戶 促使 Groke 道歉 對於涉及“兩名穿著性服裝的年輕女性（估計年齡為12-16歲）的AI圖像”的“事件”，它表示xAI“未能保護”，可能違反了政策和美國法律。 （雖然尚不清楚 Grok 生成的圖像是否符合此標準，但根據美國法律，由人工智能生成的可識別成人或兒童的真實性不雅圖像可能是非法的。）Grok 建議與其他用戶反复討論。 向聯邦調查局報告 至於CSAM，它表示正在“緊急解決”“防禦缺陷”。
但Grok的言論只不過是AI對用戶要求“衷心道歉”的回應——並不意味著Grok“理解”自己在做什麼，也不一定反映運營商xAI的實際意見和政策。相反，xAI 做出了回應 路透社‘ 請求評論 對於這種情況，只有三個字：“傳統媒體的謊言”。 xAI沒有回應 邊緣發佈時請求發表評論。
埃隆·馬斯克 (Elon Musk) 要求 Grok 用自己的模因形象取代演員本·阿弗萊克 (Ben Affleck) 的模因形像後，引發了一股比基尼編輯熱潮。 穿著比基尼。幾天后，朝鮮金正恩的皮夾克換成了彩色意大利麵條。 比基尼;美國總統唐納德·特朗普穿著配套的泳衣站在附近。 （提示關於核戰爭的笑話。）英國照片 政治領袖 2022 年，一名用戶於 1 月 2 日發布了 Preeti Patel 比基尼照片的性暗示信息。針對其平台上的比基尼照片浪潮，馬斯克開玩笑地轉發了 圖片 穿著比基尼的烤麵包機標題為“Groc 可以把比基尼放在所有東西上。”
其中一些圖像（例如烤麵包機）顯然是為了開玩笑，而另一些圖像顯然被設計為近乎淫穢，包括具體指示 Grok 使用暴露的比基尼款式或完全脫掉裙子。 （聊天機器人去掉了裙子，但它沒有在回復中描繪完整的、未經審查的裸體。 邊緣 鋸。 ）格羅克也滿足了更換裝備的要求 比基尼寶貝。
馬斯克的人工智能產品以高度性化和最低限度的保護而聞名。調情成為 xAI 的 AI 伴侶 邊緣 記者 Victoria Song 和 Jess Weatherbed 發現，雖然 xAI 可以接受，但 Grok 的視頻生成器可以輕鬆創建泰勒·斯威夫特 (Taylor Swift) 的裸照深度假貨。 使用程序 相比之下，谷歌的 Veo 和 OpenAI 的 Sora 視頻生成器在 NSFW 內容的生成方面設有護欄，禁止描述“不雅的人類肖像”，儘管 Sora 也被用來生成視頻。 性傳播兒童 和 戀物癖視頻。根據一家網絡安全公司的報告，深度偽造圖像的流行率正在迅速增加 深度打擊其中許多電影都包含未經同意的性意象；一個 2024 年調查 研究發現，40% 的美國學生知道他們認識的人進行了深度偽造，15% 的學生知道未經同意的清晰或親密的深度偽造。
當被問及為什麼女性照片被變成比基尼照片時，Grok 被拒絕 它在未經同意的情況下發布照片，並表示：“這些是基於人工智能的請求，而不是未經同意的真實照片編輯。”
AI機器人的拒絕隨你怎麼想。
