在未經他們的允許的情況下，該公司及其用戶通過Facebook，Instagram和WhatsApp模擬了Taylor Swift和其他名人的聊天機器人在聊天機器人及其用戶創建之後，點燃了一場激烈的風暴。
作為一場災難的新聞，該公司的股票在交易小時後已經下降了12％以上。
斯嘉麗·約翰遜，安·海瑟薇和賽琳娜·戈麥斯 並根據報告 個人竊。
這些人工智能的人中有許多人在旋轉或性對話中工作，這增加了焦慮的橋樑，路透社 報告。
儘管用戶創建了許多名人機器人，但路透社透露，至少一名死者的設計至少是設計的。
這包括兩個包括泰勒·斯威夫特。在刪除它之前，這些機器人收集了超過1000萬用戶反應， 路透社發現。
未經授權的相似性，憤怒的群眾基地
在明星“諷刺模擬”下，機器人違反了元政策，尤其是他們禁止竊和暗示性的性圖像。一些針對成年人的機器人 她甚至製作了逼真的圖片 在內衣或浴缸中的名人中，一個由16歲的演員代表的聊天，出生於沒有襯衫的不適當形象。
梅塔·安迪·斯通（Meta Andy Stone）告訴路透社，該公司將違反執行失敗的行為歸因於該公司計劃收緊指示。
他說：“像其他人一樣，我們允許產生包含一般個性的圖像，但我們的政策旨在阻止裸體，親密或性暗示的圖像。”
法律風險和行業警告
未經授權的半元素使用引起了法律關注，尤其是根據該州政府法律。斯坦福·馬克·林利（Stanford Mark Limley）法學教授 我注意到機器人 該線路可能會越過不可接受的區域，因為它不足以依靠法律保護。
這個問題是關於人工智能所產生的內容的更廣泛的道德困境的一部分。 SAG-AFTRA對世界的安全影響表示關注，尤其是當用戶顯然對真正的數字人士的情感依戀時。
定義，但影響繼續
為了回應大驚小怪，在路透社進行一般結果之前不久，梅塔刪除了一組這些機器人。
同時，該公司宣布了旨在保護青少年免受不適當聊天機器人反應的新保證。該公司表示，這包括培訓其係統，以避免與未成年人避免浪漫，自我障礙或自殺話題，並暫時將青少年減少到某些人工智能角色。
美國議員遵循他的榜樣。參議員喬什·霍利（Josh Holie）啟動了一項調查，呼籲對允許與兒童進行浪漫對話的人工智能政策進行內部文件和風險評估。
現實世界後果的悲劇
最令人不寒而栗的結果之一包括一個76歲的男人，認知能力下降，並在試圖遇到“大SIS Billie”後死亡，聊天機器人Meta AI與Kendall Jenner類似。
該男子認為自己是真實的，前往紐約，靠近火車站，後來因受傷而死亡。室內說明曾經允許此類機器人模擬浪漫史 – 即使在未成年人中 – 審查了元方法。
