歐盟已正式對埃隆·馬斯克 (Elon Musk) 的社交媒體公司 X 發起調查，稱其基於情報的 Grok 聊天機器人生成的脫衣婦女和兒童的圖像非常虛假。
歐盟的執行機構歐盟委員會， 週一表示正在調查是否 馬斯克的科技公司違反了《數字服務法》，該法要求 X 等平台阻止傳播經過處理的露骨色情圖片，包括兒童性虐待材料。
歐盟委員會技術執行副主席赫納·維爾庫寧 (Hena Virkunen) 在一份聲明中表示：“針對婦女和兒童的性深度造假是一種暴力、不可接受的退化形式。”
“通過這項調查，我們將確定 X 是否履行了 DSA 規定的法律義務，或者是否將歐洲公民的權利（包括婦女和兒童的權利）視為對其服務的附帶損害。”
在啟動調查時，委員會提到了所謂的“非法內容擴散、與性別暴力相關的負面影響以及在其平台上實施 Grok 功能對身心健康造成的嚴重負面影響”。
歐盟官員警告稱，如果違規行為得到證實，X 可能面臨高達全球年收入 6% 的處罰。
去年年底，馬斯克的 Grok AI 機器人引發了憤怒，因為 X 應用程序中充斥著女性的照片，這些女性的外表經過數字化處理，看起來就像穿著比基尼或內衣，儘管原始照片顯示她們衣著整齊。
當用戶進行更改時 他們設法詢問 Grok 未經他們事先同意，脫掉他們的衣服。
研究人員 Genevieve Oh 進行的一項分析發現，Grok 生成了大約 每小時 7,750 張性暗示或“裸體”圖片。
阿什利·聖克萊爾（Ashley St. Clair）是社交媒體影響者，為馬斯克生下了一名男嬰，他正在起訴這位億萬富翁的人工智能初創公司 xAI，該公司創建了 Grok。
她在一份法庭文件中聲稱，馬斯克的機器人生成了她裸體兒童的深度虛假圖像，並在她要求停止騷擾時通過取消她的 X 賬戶的貨幣化來報復她。
本月早些時候，馬斯克的公司嚴厲打擊了深度造假行為。 Grok 在 1 月初告訴用戶，“圖像生成和編輯目前僅限於付費訂閱者。”
馬斯克還發帖稱，人們會使用 Grok 來創建非法內容 “遭受同樣的後果” 就好像他們正在上傳此類內容一樣。
隨著對嚴重假貨的強烈反對蔓延，歐盟以外的監管機構迅速採取行動對 Grok 進行調查。
在英國， 媒體監管機構 Ofcom 已啟動正式調查 在聊天機器人中，引用了與歐洲提出的有關創建和傳播露骨和潛在非法圖像的擔憂類似的擔憂。
澳大利亞、法國和德國當局 調查也已開始 在《Grok》中探討性深造假爭議，這是更廣泛、協調的國際反應的一部分。
儘管具體的監管機構和執行機制有所不同，但每個國家的官員都提出了相同的根本擔憂：Grok 能夠大規模地傳播未經同意的真實人物（包括未成年人）的性圖像。
在美國，州一級已採取行動，加利福尼亞州總檢察長羅布·邦塔(Rob Bonta)宣布展開調查。
在亞洲，監管機構走得更遠。
印度尼西亞和馬來西亞對 Grok 實施了臨時禁令，但馬來西亞後來解除了限制。
未能立即聯繫到馬斯克的代表發表評論。
