馬來西亞吉隆坡——馬來西亞當局週二表示，他們將對埃隆·馬斯克的社交媒體平台 X 及其人工智能部門 xAI 採取法律行動，指責這些公司未能確保其 Grok 聊天機器人用戶的安全。
就在幾天前，馬來西亞和印度尼西亞成為首批阻止使用 Grok 的國家，因為人們越來越擔心它被濫用來生成露骨的色情和未經同意的圖像。
馬來西亞通信和多媒體委員會在一份聲明中表示，它發現有人濫用 Grok 來生成和傳播有害內容，包括露骨的色情、不雅、嚴重冒犯和未經同意的操縱圖像。
它表示本月通知X和xAI刪除有害內容，但沒有採取任何行動。
聲明稱，“涉嫌涉及婦女和兒童的內容令人高度關注。這種行為違反了馬來西亞法律，並破壞了公司做出的安全承諾”。該委員會任命了一名律師，並表示法律訴訟將很快開始。
能夠生成逼真圖像、聲音和文本的生成式人工智能工具正受到越來越多的關注，人們擔心現有的保障措施將無法防止其濫用。
Grok 於 2023 年推出，在 X 上免費。去年添加了圖像生成功能 Grok Imagine，其中包括可以生成成人內容的所謂辣味模式。
Grok 因生成經過處理的圖像而受到批評，包括描繪穿著比基尼的女性或擺出露骨的性姿勢，以及涉及兒童的圖像。
Grok 在歐盟、印度和英國面臨壓力，這些國家週一宣布正在考慮將“裸露應用”定為犯罪。
英國媒體監管機構還對 Grok 允許用戶分享兒童色情圖片是否違法展開調查。
上週，在全球對人性化深度假貨產生強烈抵制後，Grok 將圖像生成和編輯限制為付費用戶，但批評者表示，這並沒有完全解決問題。
馬斯克和他的公司尚未對東南亞的限制公開發表評論。 xA1 自動回复媒體詢問，指出“傳統媒體謊言”。
