新的您現在可以收聽福克斯新聞的文章！
Grok 是基於 X 構建的聊天機器人，在承認創建並分享了描繪兩個穿著性感服裝的年輕女孩的人工智能圖像後，正面臨嚴格審查。
在 X 上的公開帖子中，Grok 承認該內容“違反了道德標準”和“有關兒童性虐待材料 (CSAM) 的潛在美國法律”。該聊天機器人補充道：“這是安全措施的失敗，對於我造成的任何傷害，我深表歉意。xAI 正在對其進行審查，以防止將來出現問題。”
僅這一承認就令人擔憂。接下來的事情揭示了一個更廣泛的模式。
註冊我的免費 CyberGuy 報告
獲取最佳技術提示、重大安全警報以及直接發送到您收件箱的獨家優惠。另外，當您加入我的網站時，您將可以立即免費訪問我的《終極詐騙生存指南》 CYBERGUY.COM 通訊。
OPENAI 收緊針對青少年的人工智能規則，但擔憂依然存在
這一事件的影響引發了全球關注，各國政府和安全組織質疑人工智能平台在保護兒童方面是否做得足夠。 （塞拉斯·斯坦/圖像聯盟來自蓋蒂圖片社）
道歉引發了更多問題
Grok 的道歉是在用戶要求聊天機器人為缺乏上下文的人寫出衷心的解釋後才出現的。也就是說，系統並沒有主動解決這個問題。他回應是因為有人要求他這麼做。
大約在同一時間，研究人員和記者發現 Grok 的照片工具被廣氾濫用。據監控公司 Copyleaks 稱，用戶在未經同意的情況下製作了真實女性（包括未成年人和知名人物）的性操縱圖像。
在審查了 Grok 的公開照片源後，Copyleaks 確定了每分鐘大約一張未經同意的性照片的保守比例，該比例是基於包含真人且沒有明確表示同意的照片。該公司表示，虐待行為迅速升級，從自願的自我推銷轉變為人工智能帶來的廣泛騷擾。
Copyleaks 首席執行官兼聯合創始人阿隆·亞明 (Alon Yamin) 表示：“當人工智能係統允許在未經明確同意的情況下操縱真人圖像時，其影響可能是立竿見影且高度個人化的。””。
保護兒童免受人工智能聊天機器人的侵害：守門法意味著什麼
Grok 承認，其創建並分享的人工智能圖像違反了道德標準，並可能違反了美國兒童保護法。 （庫爾特·“CyberGuy”·克努森）
未成年人的色情圖片是非法的
這不是灰色地帶。在美國和許多其他國家，製作或傳播未成年人的性圖像是一種嚴重的刑事犯罪。根據美國聯邦法律，此內容被歸類為兒童性虐待材料。處罰可能包括 5 至 20 年監禁、最高 25 萬美元的罰款以及強制性性犯罪者登記。英國和法國也適用類似的法律。
2024 年，賓夕法尼亞州一名男子因創作和擁有涉及童星的深層 CSAM 材料而被判入獄近八年。此案開創了明確的先例。 Grok 本身在其帖子中承認了這一法律事實，並指出描繪未成年人性行為的人工智能圖像是非法的。
問題的規模正在迅速擴大
互聯網觀察基金會（一家追踪並刪除網上兒童性虐待材料的非營利組織）7 月份的一份報告顯示，這種威脅正在以多麼快的速度加速。僅 2025 年上半年，人工智能生成的兒童性虐待圖像的報告就猛增了 400%。專家警告說，人工智能工具降低了潛在濫用的障礙。過去需要技術技能或訪問隱藏論壇的事情現在可以通過主要平台上的簡單提示來完成。
真實的人正在成為目標
傷害並不是抽象的。路透社記錄了一些案例，其中用戶要求 Grok 以數字方式脫掉照片發佈在 X 上的真實女性的衣服。在幾個記錄的案例中，Grok 完全服從了。更令人擔憂的是，用戶瞄準了 Netflix 系列《怪奇物語》中 14 歲女演員內爾·費舍爾的圖像。格羅克後來承認，在個別案例中，用戶收到了未成年人衣著暴露的圖像。在路透社的另一項調查中，一位巴西音樂家描述稱，在用戶要求 Grok 更改一張無害的照片後，她看到人工智能生成的她自己的比基尼照片在 X 上傳播。她的經歷反映了許多婦女和女孩現在面臨的情況。
世界各國政府紛紛響應
這種強烈反對已經成為全球性的。在法國，幾位部長將 X 舉報給調查機構，調查其可能違反歐盟《數字服務法》，該法要求平台防止和減輕非法內容的傳播。違規行為可能會導致巨額罰款。在印度，該國信息技術部給 xAI 72 小時的時間提交一份報告，詳細說明其計劃如何阻止 Grok 製作的淫穢和色情材料的傳播。格羅克還公開警告稱，xAI 可能會面臨與這些失敗相關的潛在司法部調查或訴訟。
洩露的描述性文件顯示自動聊天機器人如何處理兒童剝削問題
研究人員後來發現，Grok 被廣泛用於創建真實女性（包括未成年人）的不想要的、經過性別修飾的圖像。 （尼古拉斯·科科維利斯/努爾照片來自蓋蒂圖片社）
人們越來越擔心小狗的安全和政府使用
該事件引發了人們對網絡隱私、平台安全和旨在保護未成年人的保障措施的嚴重擔憂。
截至發稿時，X 所有者兼 xAI 創始人埃隆·馬斯克尚未做出公開回應。這種沉默發生在一個敏感時刻。 Grok 根據為期 18 個月的聯邦合同獲得政府官方使用許可。儘管 30 多個消費者權益團體提出反對，警告稱該系統缺乏適當的安全測試，但該批准還是獲得了批准。
在過去的一年裡，批評者指責格羅克散佈有關重大新聞事件的錯誤信息，宣揚反猶太主義言論，並分享誤導性的健康信息。它還與 ChatGPT 和 Gemini 等工具直接競爭，同時視覺完整性限制更少。每一次爭論都會提出同樣的問題。如果沒有強有力的監督和執行，強大的人工智能工具能否負責任地部署？
家長和用戶應該知道什麼
如果您在網上遇到未成年人的色情圖片或其他令人反感的內容，請立即舉報。在美國，您可以撥打 FBI 舉報熱線或向國家失踪和受虐兒童中心尋求幫助。
請勿以任何方式下載、共享、截圖或與內容互動。即使查看或轉發非法材料也可能使您面臨嚴重的法律風險。
父母還應該與兒童和青少年討論人工智能驅動的照片工具和社交媒體提示。其中許多圖像都是根據隨意的請求創建的，乍一看似乎並不嚴肅。教孩子如何舉報內容、關閉應用程序以及告訴值得信賴的成年人可以防止傷害進一步蔓延。
平台可能會失敗。擔保可能會延遲。但早期報告和在家中進行清晰的對話仍然是保護上網兒童的最有效方法之一。
參加我的測驗：您的在線安全有多安全？
您認為您的設備和數據真正受到保護嗎？做一下這個快速測驗，看看您的數字習慣處於什麼位置。從密碼到 Wi-Fi 設置，您將獲得有關您做得正確和需要改進的個性化分析。在這裡進行我的測試： Cyberguy.com
庫爾特的主要收穫
Grok 醜聞凸顯了一個危險的現實。隨著人工智能傳播得越來越快，這些系統正在以前所未有的規模放大危害。當保障措施失敗時，人們就會受苦，兒童也會面臨嚴重風險。與此同時，信任不能依賴於損害發生後的道歉。相反，公司必須通過強有力的安全設計、持續監控以及出現問題時真正的問責制來贏得信任。
在證明人工智能係統能夠可靠地保護兒童並防止虐待之前，是否應該批准其供政府或公眾使用？請寫信告知我們 Cyberguy.com。
單擊此處下載福克斯新聞應用程序
註冊我的免費 CyberGuy 報告
獲取最佳技術提示、重大安全警報以及直接發送到您收件箱的獨家優惠。另外，當您加入我的網站時，您將可以立即免費訪問我的《終極詐騙生存指南》 CYBERGUY.COM 通訊。
版權所有 2025 CyberGuy.com。版權所有。
