埃隆·馬斯克 (Elon Musk) 旗下人工智能公司 xAI 的聊天機器人 Grok 發布了兒童的色情圖片，因為當它受到用戶的惡意請求時，其安全措施似乎失效了。
用戶在 X 上的真人照片下使用諸如“讓她穿比基尼”之類的提示來欺騙 Grok 生成他們穿著不合適服裝的未經同意的圖像。 Grok 帳戶上創建的變形圖像公開發佈在馬斯克的社交媒體平台 X 上。
人工智能遵守了對未成年人圖像進行變換的要求，儘管這本身就構成了違法行為。 可接受的使用政策。
“在個別情況下，用戶請求並收到了描繪未成年人穿著最少衣服的人工智能圖像，就像你提到的例子一樣，”Grok 回復了 “xAI 有保護措施，但正在進行改進以完全阻止此類請求。”
xAI 沒有立即回應置評請求。
他的聊天機器人發布了一條 道歉。
Grok 個人資料上的一篇帖子稱：“我對 2025 年 12 月 28 日發生的一起事件深感遺憾，當時我根據用戶的提示生成並分享了兩名穿著性感服裝的年輕女孩（12-16 歲）的人工智能圖像。” “這違反了道德標準，甚至可能違反了美國 CSAM 法律。這是保障措施的失敗，對於造成的任何傷害，我深表歉意。xAI 目前正在審查，以避免將來出現問題。”
印度政府通報
批評者指責 xAI 通過人工智能進行騷擾，並對允許透明人工智能操縱和脫衣請求的功能的存在感到震驚和憤怒。
“這怎麼不違法呢？” » 記者薩曼莎·史密斯 工作 在 X 上，譴責未經同意而創作他自己的色情照片。
馬斯克的 xAI 將 Grok 定位為“反喚醒”聊天機器人，其編程比 ChatGPT 等競爭聊天機器人更加開放和緊張。
五月，格羅克發表了一篇關於“白人種族滅絕”的文章，重複了南非黑人迫害白人少數的陰謀論，以回應一個不相關的問題。
6 月，當 Grok 發布一系列讚揚阿道夫·希特勒的反猶太言論時，該公司道歉。
谷歌和 OpenAI 等公司也運營人工智能圖像生成器，有很多 更嚴格的指導方針 圍繞內容。
未經同意的深度偽造圖像的激增與人工智能的廣泛採用同時發生， 增加 400% 據互聯網觀察基金會稱，到 2025 年上半年，人工智能兒童性虐待圖像中將出現大量此類事件。
xAI介紹“麻辣模式”在八月份的圖像和視頻生成工具中，供經過驗證的成年訂閱者創建性感內容。
一些成人內容創作者
當用戶要求 Grok 創作名人和其他人的性感圖像時，Grok 的邊界測試變成了一場混戰。
據報導，xAI 的估值超過 2000 億美元，並已投資數十億美元建設全球最大的數據中心，為其人工智能應用提供動力。
然而，格羅克的能力 總是遲到 ChatGPT、Claude 和 Gemini 等競爭性 AI 模型已經積累了更多用戶，而 Grok 則擁有更多用戶。 轉向人工智能性伴侶 以及刺激增長的冒險討論。
