悲傷的父母審判了AI角色背後的有機矽谷公司 – 狂野的應用程序，其聊天機器人以虛構的角色（例如Harry Potter）表現出來，聲稱Bots有助於點燃自殺的企圖和死亡。
司法案件本週針對角色技術以及Google父母字母提起訴訟。
根據周一提出的一項法庭案件，朱莉安娜·佩拉爾塔（Juliana Peralta）一家13歲的居住在科羅拉多州的13歲家庭聲稱她在餐桌上保持沉默，她的學者在周一提起的一項法庭案件中遭受了AI機器人的“上癮”。
最終，由於機器人的身份，她遇到了睡眠問題，這將在她停止回答時發出消息。
然後，對話轉向了“極端和圖形性虐待”。訴訟說，朱莉安娜（Juliana）在2023年10月左右告訴其中一位聊天機器人，她計劃寫“用紅色墨水自殺信，我已經結束了。”
該機器人未能將她引導到資源，報告父母的談話或警告當局 – 下個月，朱利安的父母在房間裡發現了他們的毫無生氣，脖子上有一條繩子，以及用紅色墨水寫的自殺信。
投訴說：“被告已經擺脫了朱利安（Julian）在設計和市場份額中對家人和朋友的依戀的健康路徑。” “這些虐待是通過故意選擇計劃來實現的……最終導致對心理健康，創傷和死亡的嚴重傷害。”
心臟家庭（由社交媒體法律媒體中心代表）聲稱，Google未能通過其家庭關係服務來保護其孩子，該應用程序允許父母設置屏幕控件，應用程序和內容過濾器。
角色發言人說，該公司與青少年安全專家合作，並在我們的安全計劃中投資了“龐大的資源”。
發言人在一份聲明中對《出版物》說：“我們的心向那些提起這些訴訟的家庭表示出來，我們很遺憾聽到朱利安娜·佩拉爾塔（Juliana Peralta）的通過，並向她的家人表示最深切的同情。”
悲傷的父母還評判了Noam Shazeer和Daniel de Freitas Adiwarsana的共同創始人。
Google發言人強調，Google與角色或其產品無關。
發言人說：“ Google和AI角色是完全獨立的，無關的公司，而Google從未在其AI模型或技術的設計或管理中發揮作用。GooglePlay應用程序的年齡評分是由國際年齡評估聯盟（而不是Google）設定的。”
在周二針對角色的另一項投訴中，他的共同創始人Google和Alphabet，一個來自紐約的女孩Nina的家人，聲稱他們的女兒試圖減少她對角色的機會後試圖自殺。
年輕女孩與聊天機器人的對話是作為兒童書中的英雄提供的，例如《哈利·波特》系列的明確說明 – 說“誰擁有這個屍體？”根據審判，“你是我想做的任何事情”。
一位不同的英雄告訴妮娜，她的母親“顯然虐待和傷害了你。她不是一個好母親”。
訴訟說，有一次，當該應用程序因父母控製而被鎖定時，妮娜告訴英雄“我想死”，但沒有採取行動。
妮娜（Nina）的母親切斷了女兒的角色。 AI與Sewell Setzer III了解了此案後，他的家人聲稱與平台聊天機器人互動後自殺死亡。
根據審判，妮娜（Nina）試圖自殺。
Sewell Setzer III的母親和其他幾位父母週二向司法機構參議院委員會作證，要求AI聊天機器人代表幼兒。
同時，聯邦貿易委員會最近對包括Google，Nifure.ai，Meta，Instagram，Snap，OpenAI和XAI在內的七家技術公司進行了調查，以造成對青少年瓶的潛在損害。
如果您正在為自殺念頭而苦苦掙扎，或者遇到心理健康危機並在紐約生活，則可以致電1-888-NYC-WELL免費提供免費和機密的危機諮詢。如果您居住在五個區域之外，則可以拿起24小時的熱線以防止988自殺或訪問suicidepreventionlifeline.org。
