英國通信監管機構 Ofcom 已對埃隆·馬斯克的社交媒體平台 X 的人工智能聊天機器人 Grok 發起正式調查，此前有報導稱 Grok 被用來在未經同意的情況下生成性深度假貨。
萊昂尼爾/蓋蒂圖片社
隱藏標題
標題切換
萊昂尼爾/蓋蒂圖片社
印度尼西亞和馬來西亞 暫時封鎖 去年年底，X 的聊天機器人 Grok 公開製作了數十張假圖片，其中大部分是女性，有時甚至是兒童。
世界各國政府也在展開調查。最新消息於週一發布，當時英國媒體監管機構 Ofcom， 掉落了一個探針 在社交媒體平台上，這可能會導致禁令。
一段時間以來，Grok 一直在製作露骨的色情圖片。但這個問題在 12 月底引起了廣泛關注，因為人們使用聊天機器人通過在評論中標記機器人並給出諸如“讓她穿上內褲”等提示來編輯大量現有圖像。儘管 Grok 並未回應所有請求，但在很多情況下還是答應了。 Bellingcat 高級研究員兼研究員 Colina Koltai 指出，在某些情況下，用戶可以讓 Grok 生成正面裸露的身體。
無數婦女，有時還有兒童，例如 路透社 在未經 Grok 許可的情況下首次在網上進行色情化， 包容性 X 所有者埃隆·馬斯克 (Elon Musk) 孩子的母親之一。
斯坦福大學政策研究員瑞安娜·普費弗科恩 (Rhianna Pfefferkorn) 表示，如此多的政府對社交媒體公司採取行動是不尋常的，但這次情況有所不同。 “製造兒童性虐待（材料）是公然非法的，幾乎在地球上的任何地方都是如此。”
直到上週五，X 才限制 Grok 的 AI 成像功能僅對付費訂閱者開放。非付費用戶仍然只需點擊幾下即可公開發布比基尼人物，但只能提交一些此類請求，然後就會被提示註冊高級會員資格，每月費用為 8 美元。
NPR 審查了本月早些時候 Grok 生成的公開圖像，發現它在 2026 年之後幾天就停止製作衣著暴露的女性圖像。不過，它仍然偶爾會提供穿著比基尼的男性圖像。
X 的母公司 xAI 自去年以來一直在與 Grok 合作推廣成人內容。在五月 科爾泰率先得分 聊天機器人會生成露骨的色情圖像來響應 X 的請求，例如“脫掉她的衣服”。去年夏天，Grok 在其獨立應用程序中引入了“辣味模式”，允許用戶給人工智能生成的角色穿上內褲。
美國消費者聯合會的人工智能和隱私主管本·溫特斯 (Ben Winters) 表示，Grok 現在不僅可以編輯真人圖像，還提供了一個通過 X 分發的簡單平台。 “這是進一步重大升級，”他說。
X 限制訂閱者使用成像功能的舉動激怒了各國政府。英國科技大臣利茲·肯德爾 (Liz Kendall) 表示 天空新聞 “如果你付費仍然可以使用這項服務，這是一種侮辱。”
印度尼西亞政府首先發現 Grok 缺乏有效的保障措施來阻止用戶在未經印尼真實居民同意的情況下製作色情內容 報導。
印度尼西亞通信和數字事務部長 Meutya Hafid 在一份聲明中表示：“政府認為未經同意的性深度假貨嚴重侵犯了數字空間中公民的人權、尊嚴和安全。”
美聯社還報導稱，在採取有效的防止濫用措施之前，Grok 將繼續滯留在馬來西亞。
在回答 NPR 的提問時，X 發言人維多利亞·吉萊斯皮 (Victoria Gillespie) 指出 陳述 1月3日發布的消息稱，“任何人使用或煽動Grok製作非法內容，都將遭受與上傳非法內容相同的後果”。該聲明呼應了馬斯克的聲明 郵政 那天早些時候。
溫特斯說，這種做法是“試圖放棄責任”。
“這當然不僅僅是用戶自己提出的，”他說。 “事實是，如果沒有他們製作的……工具，這張圖片就不會被創建。”
在 Grok 生成的非共識顯式深度造假浪潮席捲 X 之前，其他人工智能供應商已在其聊天機器人中添加了類似的功能。 11 月，谷歌發布了一款新的圖像生成器 Nano Banana Pro。 12 月，OpenAI 更新了其 ChatGPT 圖像模型。兩者都可以編輯圖像，讓人們穿上比基尼，《連線》 報導 上個月。流傳此類圖片的 Reddit 帖子已被刪除。
在另一個 X 帖子馬斯克表示，由於其他人工智能公司的工具也具有這種剝離功能，因此來自政府的壓力是針對他的平台的一種審查形式。
科爾泰指出，過去一兩年，人工智能生成的親密媒體非自願化的趨勢一直在形成。 “你甚至會在 Instagram 上看到這些廣告——這就像上傳你和你喜歡的人的照片，然後你就可以接吻了，”她說。 “所以這是親吻和擁抱，然後你會發現還有更極端的範圍。”
“科技行業顯然存在一個巨大的問題，因為我們已經在多個平台上看到了這一點，而且並不總是有很好的指導方針、邊界或監管，”科爾泰說。
與其他國家相比，美國的批評要溫和得多。德克薩斯州共和黨參議員特德·克魯茲 (Ted Cruz) 發表於 X 週三，這些圖像“必須拆除並豎起欄杆”。他還表示，“X 宣布認真對待這些違規行為，並正在努力從其平台上刪除任何非法圖像和攻擊性用戶，這讓他感到鼓舞。”
Grok 在過去的一年裡頻頻引發爭議。去年夏天，該聊天機器人自稱為“MechaHitler”，並散佈反猶太主義陰謀論。
具有所謂裸體功能的應用程序已經存在多年，大部分都在互聯網的陰影下。溫特斯表示，官員們需要採取更多措施來監管 X 的一些功能。 “他們的產品安全性存在錯誤陳述。違反了他們的服務條款，”他說。
溫特斯說：“我們還沒有真正看到有權執行法律的美國機構（無論是州機構還是聯邦機構）採取任何有意義的行動。”
