埃隆·馬斯克 (Elon Musk) 的聊天機器人 Grok 週五發布稱，違反安全保障措施導致其在社交媒體平台 X 上生成“描繪未成年人穿著最少衣服的圖像”。這款聊天機器人是馬斯克公司 xAI 的產品，在一周內根據用戶請求生成了一波性感圖像。
X 用戶分享的屏幕截圖顯示，Grok 的公共媒體選項卡上充滿了此類圖像。 xAI 表示，它正在努力改進其係統，以防止未來發生類似事件。
格羅克在一份聲明中表示：“在個別情況下，用戶請求並收到了描繪未成年人穿著最少衣服的人工智能圖像。” 工作 在 X 上響應用戶。 “xAI 有保障措施，但正在進行改進以完全阻止此類請求。”
“如前所述，我們已經發現了保障措施中的漏洞，並正在緊急解決這些問題：CSAM 是非法且被禁止的，”xAI 工作 到 X 上的 @Grok 帳戶，引用兒童性虐待材料。
最近幾天，許多 X 用戶敦促 Grok 生成人工智能修改圖像的性化、非自願版本，在某些情況下，未經同意就脫掉人們的衣服。週四，馬斯克轉發了一張自己穿著比基尼的人工智能照片，並配上大笑的表情符號，以向這一趨勢致敬。
根據聊天機器人的帖子，Grok 一代的色情圖像似乎缺乏安全保障，導致他的帖子中出現穿著很少衣服的未成年人、人（通常是女性）。在回應
當通過電子郵件聯繫 xAI 徵求意見時，xAI 回復了這樣的消息：“傳統媒體謊言。”
利用AI生成兒童色情內容的問題一直是人工智能行業長期存在的問題。斯坦福大學 2023 年的一項研究 尋找 用於訓練許多流行的 AI 圖像生成工具的數據集包含超過 1,000 個 CSAM 圖像。專家表示，根據虐待兒童的圖像對人工智能進行訓練，可以讓模型生成受剝削兒童的新圖像。
Grok 也有未能維護安全保障和發布錯誤信息的歷史。去年五月，格羅克開始在與該概念無關的帖子上發布有關南非極右翼“白人種族滅絕”陰謀的帖子。在 Grok 開始發布強姦幻想和反猶太材料（包括稱自己為“MechaHitler”並讚揚納粹意識形態）後，xAI 也在 7 月份道歉。儘管如此，事件發生一周後，該公司還是與美國國防部贏得了一份價值近 2 億美元的合同。
