Meta放心人工智能，並增加了新的保護，以防止青少年與公司的聊天機器人討論有害主題。該公司表示，它增加了“新扶手作為另一種預防措施”，以防止青少年與Meta AI討論自我障礙，動蕩的食物和自殺。 Meta還將阻止青少年接觸可能涉及不適當對話的用戶聊天機器人字母。
首先的變化 我之前提到過 TechCrunch在許多報導引起人們注意元AI和青少年之間的令人不安的反應之後。本月早些時候 路透社 它已報告給內部身份證政策文件，該文件說，允許人工智能的聊天機器人與法定年齡下的用戶進行“感官”對話。米塔後來說，這種語言“與我們的政策不一致”，並被刪除。昨天， 華盛頓郵報 我提到 在一項研究發現Meta AI的研究中，我設法“接受自殺賬戶，自我障礙和飲食失調的青少年培訓”。
Meta現在正在加強內部“扶手”，因此Instagram和Facebook上的青少年不再可以進行這些類型的交互。元發言人斯蒂芬妮·奧特瓦（Stephanie Outawi）在一份聲明中對Engadget說：“我們從一開始就在AI產品中建立了青少年保護，包括她的設計，以安全地應對苛刻的自殺，自殺和動蕩的食物。”
“隨著我們社會的發展和技術的發展，我們不斷學習年輕人如何與這些工具進行互動並相應地增強我們的保護。隨著我們對系統的持續改進，我們添加了更多的手工牽引，包括其他警告 – 包括AIS培訓，不願與這些主題中的青少年進行交流，而是指導他們與專家資源的指導，並減少AI人類選擇的訪問。”
值得注意的是，新保護被描述為“當前”，因為Meta似乎仍在採取更永久的措施來解決對青少年和大赦國際的安全的越來越關注的問題。 Outawi說：“這些更新已經在進行中，我們將繼續調整我們的方法，以確保人工智能有安全且合適的體驗。”新的保護將在接下來的幾週內推出，並適用於所有在英語國家使用元AI的青少年。
梅塔（Meta）的政策還引起了立法者和其他官員的注意，因為參議員喬什·霍利（Josh Holi）最近告訴公司，他計劃啟動有關處理這些互動的調查。德克薩斯州巴基斯頓檢察官還表示，由於涉嫌濫用兒童對聊天機器人的心理健康要求，他想調查META。
