倫敦——週一,歐盟對埃隆·馬斯克 (Elon Musk) 的社交媒體平台 X 展開正式調查,此前其人工智能聊天機器人 Grok 在該平台上發布了未經同意的深度偽造和色情圖像。
在 X 平台宣布將改用 Grok 的人工智能係統來選擇用戶會看到哪些帖子後,歐洲監管機構還擴大了對 X 推薦系統的單獨、持續的調查。
布魯塞爾展開審查之前,Grok 允許用戶通過其人工智能圖像生成和圖像編輯功能脫掉人們的衣服,讓女性穿上透明比基尼或暴露衣服,從而引發了全球的強烈反對。研究人員表示,一些圖像似乎包括兒童。一些政府已禁止該服務或發出警告。
這位由 27 個國家組成的歐盟高管表示,正在調查 X 是否按照歐盟數字法規的要求採取了足夠的措施,以遏制傳播“經過處理的露骨色情圖片”等非法內容的風險。
歐盟委員會表示,這包括“可能構成兒童性虐待材料”的內容。該委員會表示,這些風險現已“成為現實”,使歐盟公民面臨“嚴重傷害”。
監管機構將審查 Grok 是否履行了《數字服務法》規定的義務,該法是歐盟旨在保護互聯網用戶免受有害內容和產品侵害的廣泛規則。
在回應置評請求時,X 發言人向美聯社提及了早些時候的一份聲明,該聲明稱該公司仍然“致力於使
印度 1 月 14 日聲明稱,“比基尼、健身或其他運動”中的使用者代表將被終止,這也是非法行為的獨特之處。
該委員會執行副主席漢娜·維克庫寧 (Henna Virkkunen) 在一份聲明中表示:“未經同意對婦女和兒童進行性深造,構成了一種暴力且不可接受的墮落形式。”
“通過這次調查,我們將確定是否
馬斯克的人工智能公司 xAI 去年夏天推出了 Grok 的圖像工具。但這個問題直到上個月末才開始像滾雪球一樣越滾越大,當時 Grok 顯然同意了大量用戶編輯其他人發布的圖像的請求。這個問題被放大了,因為馬斯克將他的聊天機器人作為一種更大膽的替代方案,比競爭對手提供的保證更少,而且因為 Grok 在 X 上的回應是公開可見的,因此很容易傳播。
歐盟的調查僅涵蓋 Grok 在 X 上的服務,而不是 Grok 的網站和獨立應用程序。事實上,DSA 僅適用於最大的在線平台。
該集團沒有設定解決此事的最後期限,這可能導致 X 承諾改變其行為或處以巨額罰款。
布魯塞爾12月被罰款
該區塊還針對 Grok 生成反猶太材料的指控對 X 進行了調查,並要求該網站提供更多信息。
作為對這一爭議的回應,馬來西亞和印度尼西亞本月早些時候封鎖了 Grok,成為首批這樣做的國家。
馬來西亞當局週五宣布,在該公司實施額外的安全和預防措施後,他們取消了臨時限制,但沒有透露更多細節。馬來西亞監管機構表示,他們上週與 X 代表會面,並繼續關注事態發展。
X在美國也面臨著類似的壓力
上週,來自 35 個州的總檢察長致信該公司,要求其披露其計劃,以防止 Grok 製作虛假的、未經同意的性圖像,並解釋如何從平台上刪除此類現有內容。
總檢察長寫道:“我們敦促你們成為這一領域的領導者,進一步打擊這項技術造成的危害。”
__
美聯社駐吉隆坡撰稿人 Eileen Ng 對本報告做出了貢獻。









