新的您現在可以收聽福克斯新聞的文章！
英國政府週一加大了對人工智能引發的性虐待行為的打擊力度，此前部長們確認可能會禁止埃隆·馬斯克(Elon Musk)的社交媒體平台X，並對該公司進行廣泛調查並可能處以巨額罰款。
此前，英國通信監管機構 Ofcom 對 X 是否違反了英國在線安全法規定的法律義務展開了正式調查，並報告稱該平台的內置人工智能聊天機器人 Grok 被用來創建和分享婦女和兒童的露骨深度偽造圖像。
Grok 於 2023 年推出，但其圖像生成器功能 Grok Imagine 於 2025 年添加，並具有用於創建成人內容的特定模式。
英國科學、創新和技術大臣莉茲·肯德爾 (Liz Kendall) 表示，濫用人工智能工具來創建色情和未經同意的圖像“令人深感不安”。
肯德爾還警告說，社交媒體公司如果不採取行動，將被追究責任。
英國首相斯塔默欽佩的埃及極端分子因推文死灰復燃而面臨反恐調查
英國科學、創新和技術大臣莉茲·肯德爾 (Liz Kendall) 警告稱，Ofcom 有權開出“百萬美元罰款”，或者最高可達公司合格全球收入 10% 的罰款。 （拉希德·內卡蒂·阿斯利姆 / 阿納多盧，蓋蒂圖片社）
據肯德爾稱，“我對 Ofcom 今天緊急啟動正式調查表示歡迎。” 路透社。 “Ofcom 盡快完成這項調查至關重要，因為公眾 – 最重要的是受害者 – 不會接受任何延誤。”
一個 單獨的陳述 週一晚些時候，肯德爾表示，Grok 人工智能工具被用來創建和宣傳貶義的、未經同意的親密圖像。
她說：“任何婦女或兒童都不應該生活在恐懼之中，因為他們的圖像已被技術進行性操縱。”然後補充道，“X 上傳播的內容令人噁心。這不僅是對體面社會的侮辱，而且是非法的。”
肯德爾補充說，根據英國法律，未經同意分享或威脅深度偽造私密照片，包括人們穿著內衣的照片，屬於刑事犯罪。
在父母指責人工智能聊天機器人造成青少年自殺和暴力後，立法者推出了兩黨的 GUARD 法案
英國政府正在打擊人工智能引發的性騷擾，官員們確認，作為更廣泛調查的一部分，可能會禁止埃隆·馬斯克的 X。 （何塞·路易斯·馬加納/美聯社照片）
他警告稱，Ofcom 有權發布 “百萬美元罰款” 或處以最高相當於公司合格全球收入 10% 的罰款。
“但 X 不必等待 Ofcom 調查結束，”肯德爾說。 “他們可能會選擇更早採取行動，以確保這種仇恨和非法材料不會在他們的平台上分享，”他警告說。
Ofcom 表示，已於 1 月 5 日與 X 進行“緊急聯繫”，要求其解釋為保護英國用戶所採取的措施，並將回复截止日期定為 1 月 9 日。
雖然馬斯克創立的另一家公司 xAI 做出了回應，但 Ofcom 表示，在“作為最高優先事項”審查現有證據後，決定展開正式調查。
在 一份聲明 Ofcom 在周一分享的內容中表示，“有關 Grok 被用來在 X 上創建和分享非法的未經同意的親密圖像和兒童性虐待材料的報告令人深感擔憂。”
聲明稱：“平台必須保護英國人民免受英國境內非法內容的侵害，我們將毫不猶豫地調查我們懷疑公司未能履行其責任的情況，特別是存在傷害兒童風險的情況。”
OpenAI 收緊針對青少年的人工智能規則，但擔憂依然存在
人工智能聊天機器人 Grok 是由埃隆·馬斯克 (Elon Musk) 於 2023 年創立的 xAI 公司開發的，其徽標可以在筆記本電腦鍵盤上的 iPhone 顯示屏上看到。 （塞拉斯·斯坦/攝影聯盟，蓋蒂圖片社）
正如福克斯新聞數字頻道之前報導的那樣，該聊天機器人在 X 上的一篇公開帖子中承認，它創建並分享了一張描繪兩名穿著性感服裝的年輕女性的人工智能圖像，稱該事件是“未能保護”，並對造成的損害表示歉意。
在越來越多的批評聲中，Grok 證實它已開始限制付費客戶使用某些圖像生成和編輯功能。該聊天機器人表示，實施這些限制是為了防止進一步濫用。
馬斯克週一還指責英國政府“法西斯主義”，“逮捕了數千名在社交媒體上發帖的人”。
這位億萬富翁特斯拉創始人對 X 上的一篇帖子做出了回應，該帖子聲稱該國因社交媒體帖子而逮捕的人“比世界上任何其他國家”都要多。
除了 Ofcom 的調查之外，英國政府還宣布，將人工智能生成的未經同意的親密圖像的製作定為刑事犯罪的立法將於本週生效。
肯德爾說，責任不僅僅在於個人。
單擊此處下載福克斯新聞應用程序
“託管此類材料的平台必須對 X 負責，”他說。
如果它們不起作用，他說他“準備走得更遠”。
與此同時，英國首相凱爾·斯塔默的官方發言人表示，政府在該平台上的存在正在“接受審查”，“所有選擇都已擺在桌面上”。
D 美聯社 週一還報導稱，馬來西亞和印度尼西亞已成為首批封鎖 Grok 的國家。
福克斯新聞數字頻道已聯繫埃隆·馬斯克和總理基爾·斯塔默的辦公室徵求意見。
美聯社和路透社對此報導作出了貢獻。
