一個網上流行一種要求埃隆·馬斯克 (Elon Musk) 旗下的聊天機器人 Grok 剝離婦女和女孩照片並展示她們穿著比基尼的趨勢，這理所當然地在英國和世界各地引發了憤怒。本週早些時候，科學技術部長利茲·肯德爾 (Liz Kendall) 稱數字增強圖像的擴散“在一個體面的社會中是不可接受的”，其中一些圖像帶有明顯的色情或暴力色彩。接下來會發生什麼，將取決於他和他的同事是否願意跟進這些言論。政府對人工智能的普遍熱情及其在公共服務中日益增長的作用並沒有激發人們對其應對此類威脅的能力的信心。
除了海量的比基尼圖片外，慈善機構互聯網觀察基金會還有證據表明，Grok Imagine（一種根據提示生成圖像和視頻的人工智能工具）被用來製作兒童性虐待的非法圖片。然而，儘管 X 表示會刪除此類內容，但沒有跡象表明會加強針對殘忍暴力比基尼圖片的保障措施，即使這些圖片並不違法。
考慮到馬斯克先生及其所在行業的記錄，這種回應的不足並不令人意外。但情況仍然令人擔憂。本週早些時候，擁有 X（前 Twitter）和 Grok 的公司 xAI 宣佈在最新一輪融資中籌集了 200 億美元。週三，馬斯克在 X 上發帖稱“Grok 站在天使一邊。”
在英國，注意力現在轉向媒體監管機構 Ofcom，該機構正在評估調查的必要性。如果要維持公眾信任，Ofcom 必須對其方法注入更多緊迫感，並解釋其正在採取的步驟。英國的在線安全法將停機視為最後手段，這意味著當局必須遵循一定程序才能採取封鎖特定網站等嚴厲行動。
危險在於，此類措施可能會因不願遵守的平台而被推遲。一個令人擔憂的例子是對不符合年齡驗證標準的色情網站處以罰款，但迄今為止尚未支付。 Ofcom 將採取什麼應對措施？
隨著技術的發展，將需要更多的監管，從而打破長期既定的行為和規範。公眾以及法律和技術專家必須問自己，對自己的面孔和身體的個人權利應該延伸到什麼程度。在丹麥，計劃 賦予人們自己圖像的版權因此，未經真人同意而修改真人照片將被視為非法——即使這些圖像既不親密也不色情。
但認真對待婦女和兒童安全和福祉的政府不能等待此類辯論的發生，必須對過去一周發生的事件迅速做出反應。現在需要彌補與聊天機器人相關的法律漏洞，而不是可能需要數年時間的人工智能法案。為了實現這一目標，可以修改《警察和犯罪法案》。克萊爾·麥克格林教授的提議 更廣泛地處理性犯罪 — — 而不是目前採取單獨舉措來應對每種新威脅的模式 — — 也應該進行審查。部長和監管機構必須表明，他們的首要任務是用戶，而不是平台。管理網絡世界的規則必須以民主方式商定和執行，而且決不能被大型科技公司忽視。
-
您對本文提出的問題有什麼看法嗎？如果您想通過電子郵件提交最多 300 字的回复，以便考慮在我們的信件部分發布，請單擊此處。
