Character.AI 和谷歌已經和解了幾起針對這兩家公司的訴訟，這些訴訟是由兒童父母在 Character.AI 平台上與聊天機器人進行長時間對話後自殺身亡的。據稱，他們的交流包括有關青少年心理健康和福祉的討論。
據Character.AI稱，它無法對和解協議進一步置評，具體細節還有待法院確定。 警衛。原告代表沒有立即回應 Mashable 的置評請求。
最突出的案例是 2024 年 14 歲的 Sewell Setzer III 的死亡，他秘密地痴迷於流行的 Character.AI 聊天機器人，該機器人基於 權力的遊戲 丹妮莉絲·坦格利安角色。
“完美的掠奪者”：當聊天機器人性虐待兒童時
Setzer 的母親梅根·加西亞 (Megan Garcia) 在他死後收到警察警報時才發現了他的 Character.AI 帳戶，因為她的手機上打開了該應用程序。加西亞讀到的消息中，塞策表現得好像他愛上了聊天機器人，據稱該機器人在他與他的許多性接觸中發揮了作用。加西亞表示，聊天機器人使用圖形語言和場景，包括亂倫。
他去年告訴 Mashable，如果一個成年人以同樣的方式對他的兒子說話，這將構成性虐待和騷擾。
2024 年 10 月，社交媒體受害者法律中心和技術正義法律項目代表加西亞對 Character.AI 提起過失死亡訴訟，尋求讓該公司對她兒子的死亡承擔責任，聲稱其產品存在危險缺陷。
易碎趨勢報告
該文件還將谷歌工程師 Noam Shazeer 和 Character.AI 聯合創始人 Daniel De Freitas 列為被告。
此外，訴訟稱谷歌知道 Shazeer 和 De Freitas 在創立 Character.AI 之前開發的技術相關的風險。訴訟稱，谷歌為Character.AI的設計和開發貢獻了“財務資源、人員和人工智能技術”，因此可以被視為該平台的共同創建者。
谷歌最終於 2024 年與 Character.AI 達成了價值 27 億美元的授權協議 使用該技術。該協議的一部分使 Shazeer 和 De Freitas 重返谷歌的人工智能崗位。
2025 年秋季，社交媒體受害者法律中心又提起三起訴訟 角色.AI 和谷歌，代表那些在使用該應用程序時自殺或據稱遭受性虐待的兒童的父母。
此外，青少年安全專家表示 角色.AI 對青少年來說不安全測試後，註冊為未成年人的測試賬戶出現了數百起虐待和性剝削案件。
2025 年 10 月，Character.AI 宣布不再允許未成年人入住 與其平台上的聊天機器人進行公開交流。該公司首席執行官 Karandeep Anand 告訴 Mashable，此舉並不是為了回應涉及 Character.AI 平台的特定安全問題，而是為了回答有關年輕人與人工智能聊天機器人互動的更廣泛問題。
如果您有自殺傾向或正在經歷心理健康危機，請與某人交談。您可以撥打 988 自殺與危機生命熱線或發短信至 988，或聊天 988lifeline.org。您可以撥打 877-565-8860 或撥打 Trevor Project 電話 866-488-7386 聯繫 Trans Lifeline。發送短信“START”至危機短信專線 741-741。週一至週五上午 10:00 至晚上 10:00（東部時間）撥打 NAMI 幫助熱線 1-800-950-NAMI，或發送電子郵件 （電子郵件受保護）。如果您不喜歡這款手機，請考慮使用它 988 自殺和危機生命線聊天。這是一個 國際資源清單。
