根據周三公佈的法律文件，谷歌和規模較小的公司 Character.AI 已達成庭外和解，以結束家庭提起的指控聊天機器人傷害未成年人（包括導致青少年自殺）的訴訟。
• 另請閱讀： 蒙特利爾書店對人工智能書籍說不
• 另請閱讀： 一位企業家開發了一種技術工具來確定雪堆是否符合學校保險公司的建議
這些指控包括梅根·加西亞 (Megan Garcia)，其 14 歲的兒子小塞維爾·塞策 (Sewell Setzer Jr.) 於 2024 年 2 月在佛羅里達州（美國東南部）自殺。其他人已在科羅拉多州、紐約州和德克薩斯州被起訴。
提交給佛羅里達州法院的文件稱，“雙方原則上同意在仲裁框架內達成協議，以解決雙方之間的所有爭議”，但沒有詳細說明協議的內容。
加西亞女士說，她的兒子在情感上變得依賴這個角色，這是一個受文學和電視故事啟發的對話機器人。 權力的遊戲。
該平台允許用戶與虛構人物互動。
Sewell Setzer 的死亡是一系列與人工智能聊天機器人相關的自殺報導中的第一起，這些報導將於 2025 年上升。
因此，開發與生成式 AI 相關產品的公司（例如帶有 Agent ChatGPT 的先鋒 OpenAI）面臨著保護安全和年輕人的壓力。
谷歌因與Character.AI達成的到2024年價值27億美元的許可協議而捲入了這些訴訟。這次，該集團還聘請了該平台的兩位創始人諾姆·沙齊爾(Noam Shazir)和丹尼爾·德·弗雷塔斯(Daniel de Freitas)。
當法新社詢問時，Character.AI 發言人拒絕發表評論，谷歌也沒有立即回應。
該初創公司於 10 月份宣布將阻止未成年人訪問其聊天室。
該公司當時解釋說：“考慮到青少年如何使用以及應該使用這項新技術的問題，我們相信這是正確的決定。”
今年 8 月，一名 4 月自殺的 16 歲男孩的父母起訴 OpenAI，指控其 ChatGPT 助手向他們的兒子提供了結束生命的詳細指示，並鼓勵他的行為。
美國消費者保護機構 FTC 於 9 月初表示，已對用作生成人工智能伴侶的對話展開調查。
