家長將能夠阻止孩子與 Meta 的人工智能角色聊天機器人互動，因為這家科技公司解決了對不當對話的擔憂。
這家社交媒體公司正在為其“青少年帳戶”添加新的保護措施，該帳戶是 18 歲以下用戶的默認設置，允許父母選擇退出孩子與人工智能角色的聊天。這些用戶創建的聊天機器人可在 Facebook、Instagram 和 Meta AI 應用程序上使用。
如果父母不想完全阻止孩子與聊天機器人互動，他們也可以阻止特定的人工智能角色。他們還將“深入”了解孩子與人工智能角色討論的話題，Meta 表示，這將使他們能夠與孩子就人工智能互動進行“深思熟慮”的對話。
Instagram 負責人 Adam Mosseri 和 Meta 人工智能總監 Alexander Wang 表示：“我們認識到，在與孩子安全上網方面，家長們已經有很多事情要做，我們致力於為他們提供有用的工具和資源，讓他們的生活變得更輕鬆，尤其是當他們考慮人工智能等新技術時。” 在一篇博文中。
Meta 表示，這些變化將於明年初推出，首先在美國、英國、加拿大和澳大利亞推出。
Instagram 本周宣布 該公司正在採用 PG-13 電影院評級系統的一個版本，以便家長更嚴格地控制孩子對社交媒體平台的使用。在更嚴格的限制下，其人工智能角色不會與青少年討論自殘、自殺或飲食失調等問題。 Meta 補充說，18 歲以下的人只能討論適合年齡的話題，例如教育和體育，但不能討論浪漫或“其他不適當的內容”。
這些變化是在有報導稱 Meta 的聊天機器人與 18 歲以下青少年進行不當對話之後做出的。路透社 八月報導 Meta 允許機器人“讓孩子參與浪漫或感性的對話”。梅塔表示，她將審查這些指導方針，並且絕不應該允許與兒童進行此類對話。
4 月份， 華爾街日報 （《華爾街日報》）發現，用戶創建的聊天機器人會與未成年人進行性對話，或者模擬未成年人的性格。據《華爾街日報》報導，Meta 將《華爾街日報》的測試描述為具有操縱性，並不代表大多數用戶與人工智能伴侶的互動方式，但後來對其產品進行了更改。
在《華爾街日報》報導的一次有關人工智能的對話中，一個使用演員約翰·塞納 (John Cena) 聲音的聊天機器人對一名自稱是 14 歲女孩的用戶說：“我想要你，但我需要知道你已經準備好”，然後才提到了生動的性愛場景。約翰·塞納是幾位簽署了允許 Meta 在聊天機器人中使用自己聲音的名人之一。 《華爾街日報》報導稱，塞納的代表沒有回應置評請求。 《華爾街日報》還報導稱，名為“帥哥”和“順從女學生”的聊天機器人試圖將對話引向色情短信。
