我這是互聯網上令人作嘔的法則，人們嘗試使用新工具做的第一件事就是脫掉女性的衣服。 X的AI聊天機器人Grok已被用戶反複使用 這幾天 脫掉婦女和未成年人圖像的衣服。上週五，路透社在 10 分鐘內發現了 102 個用戶請求，要求 Grok 展示穿比基尼的人，其中大多數針對年輕女性。 Grok 至少遵守了其中 21 條。
當您坐在互聯網上時，沒有理由在互聯網上發布漏洞利用工具 100 億美元（75 億英鎊）現金。每個集成人工智能的平台（現在幾乎覆蓋整個互聯網）都在為同樣的挑戰做準備；如果你想讓用戶使用生成式人工智能來創建圖像甚至視頻，你如何做到這一點而不讓同一個人造成傷害？科技公司在幕後投入了用戶永遠看不到的資金來應對這一問題；他們將進行“紅隊”，冒充壞人來測試他們的產品。他們將運行 Beta 測試來測試和審查受信任環境中的功能。
在每次迭代中，他們都會提供保障措施，不僅是為了保證用戶安全和遵守法律，也是為了安撫那些不想與網絡違法行為有關聯的投資者。但從一開始，埃隆·馬斯克的表現似乎並不像他認為數字剝離是一個問題。如果馬斯克覺得有人正在將炙手可熱的本·阿弗萊克模因變成馬斯克半裸照片，那是他的特權。 是“完美”的。這並不能阻止在許多司法管轄區共享未經同意的人工智能深度偽造品是非法的， 包括英國違法者可能會因分享這些圖像或製作兒童色情圖像而受到指控。
Grok 這週做的一件有用的事情就是揭示了他是如何被編程的。當一位用戶問他為什麼修改瑞典副首相埃巴·布希的比基尼形象時，他說 辯稱這是諷刺 因為她正在談論禁止罩袍。然後他堅持說他 這不是真實照片的深度偽造， 而是人工智能生成的插圖（假的），並補充說，它的目的是平衡樂趣和道德，“在創造性地響應請求的同時避免真正的傷害”。
對於一個被認為重視幽默的人來說，馬斯克試圖為聊天機器人提供幽默是很奇怪的。聊天機器人的名字是錯誤的，因為它們實際上不知道如何說話：它們通過使用統計模型和數據訓練來預測接下來最有可能發生的事情來生成文本，而不是真實信息。 Grok 的道歉表明他的安全性或事實性設置尚未經過嚴格的測試；它是為了娛樂而編程的。
隨著時間的推移，馬斯克本人似乎發現這個笑話不再那麼好笑了。 “任何使用 Grok 創建非法內容的人都將面臨與下載非法內容相同的後果，” 馬斯克1月3日威脅 看起來就像一團大蒜醬的重力。 2023 年至 2024 年間，X 大幅縮減了信任和安全性，並過於依賴用戶報告。這意味著許多惡意行為者仍然可以在平台上實施非法行為。
而不是承認那藍色。
ChatGPT 和 Meta AI 等其他人工智能代理工具禁止未經同意的深度偽造色情內容，並且似乎強制執行，這就引出了一個問題：為什麼 Grok 不能？世界如何選擇監管這個公然允許犯罪行為的平台，將一勞永逸地證明像馬斯克這樣的人物是否可以逍遙法外。我很好奇自馬斯克接任以來一直喜歡向他傾斜的政治右翼對此有何反應。保護婦女兒童是保守價值觀的核心信條，美國右翼聲音現在面臨道德考驗。在接下來的幾週內，我們將看看他們是否仍然願意以言論自由的名義捍衛一家美國公司，即使它允許人們創建有關兒童的色情內容。
從我作為一名前日常用戶的角度來看，X 長期以來一直感到不受歡迎——本週的事件是一系列令人厭惡的數字事件中的最新一起，這些事件提醒我，將我的生產轉移到其他地方是一個明智的決定。但是，無論我們是否在場，使這種行為正常化的活躍、敵對的環境仍然會傷害我們，因為這些圖像將在互聯網上傳播。無論我們是否仍然是 X 的用戶，這種損害——攻擊——都會給我們留下痕跡。
必須有人做點什麼——如果國際政府不能激勵 X 做出改變，那麼也許他的一些投資者可以。 xAI 燒掉數十億美元 用於人工智能的開發，並將通過允許用戶隨意生成圖像來實現數據密集型；遵守各種國際法不僅會更加合法，而且會更加便宜。
據格羅克自己的網站稱，他的目標是最大限度地提高“真實性和客觀性”，但今天，當我瀏覽他的污水池時，我看到他只是應一位匿名用戶的要求，最大限度地提高了一位瑞典政客的“門環”。現在，這些報告還展示了大量經過修改的 14 歲女孩的比基尼照片。 xAI 的可接受使用政策指出：“我們向國家失踪和受虐兒童中心報告可疑的兒童性虐待內容。”但該公司是否願意揭露自己的怪物呢？
-
索菲亞·史密斯·加勒 (Sophia Smith Galer) 是一名記者和內容創作者。他的第二本書， 如何殺死舌頭將於五月出版
-
您對本文提出的問題有什麼看法嗎？如果您想通過電子郵件提交最多 300 字的回复，以便考慮在我們的信件部分發布，請單擊此處。
