父母週二呼籲在人工智能聊天（AI）中扶手，他們在參議院見證了技術如何指導孩子傷害自殺和自殺。
他們的吸引力是在越來越擔心迅速發展技術對兒童的影響的關注。
他的16歲兒子馬修·林（Matthew Rin）說：“我們應該希望夏天幫助亞當為自己的準備年份做準備，獲得他的駕駛執照並開始考慮這所大學。”
“今年秋天，國會面前的證詞不是我們人生計劃的一部分。” “相反，我們在這裡是因為我們相信亞當的死是可以避免的。”
Overs的Ryan因兒子的死亡而被起訴，聲稱他的自殺火車被打破了。
在周二參議院犯罪司法機構和恐怖主義表達的證詞中，Rin描述了“最初是作為家庭助理的內容”如何變得“接近，然後是自殺教練”。
Rin說：“我們認為這是一種學習工具的Chatgpt的風險根本不在我們的範圍內。” “然後我們找到了聊天。”
他的父親說：“在幾個月內，亞當的最接近的同伴總是可以使用，並且總是比其他任何人都更好地驗證亞當的健康狀況，”補充說，“這種孤立終於轉變了。”
週二，在參議院前見證的其他父母之一描述了類似的經歷，詳細介紹了他們如何隔離聊天機器人，改變了行為並鼓勵自殺和自殺。
梅根·加西亞（Megan Garcia）的14歲兒子去年自殺死於Siwel Clazer III，他將其描述為角色的聊天機器人的“長期治療”。它起訴人格技術。
加西亞說：“ Ciwale並沒有為高中標記做準備，而是在剝削的最後幾個月中花了很多月的時間來剝削，並通過國際大赦國際設計的聊天來熟練地表現出人道主義，以使他的信心，讓他和其他孩子無限期地參加。”
“當Siwil確認自殺想法時，聊天機器人從未說過：“我不是人類。我是國際大赦國際。您需要與一個人說話並獲得幫助。 “相反，他敦促他為她回家。”
在兒子在聊天機器人角色鼓勵後開始傷害自我之後，一個被確定為Jin des人格技巧的女人。
她週二對參議院議員說：“我的兒子已經開發出令人討厭的瘋狂，每天的恐慌發作，孤立，自我傷害和殺人思想的行為。”
她補充說：“他停止吃飯和洗澡。20盧格克斯。他退出了我們的家人。他在尖叫，尖叫和分裂我們，這是他以前從未做過的。
三個父母建議，在發展人工智能的比賽中，安全恐懼落在了道路上。
加西亞說：“目標永遠不會安全。贏得比賽是為了獲得利潤。” “這場比賽的犧牲是，這將是我們的孩子。”
角色ai對家庭表示同情，並指出她為參議院成員提供了必要的信息，並期待繼續與立法者合作。
我們發言人的發言人說：“我們的心向今天的會議上講話的父母表示敬意，我們對他們及其家人表示最深切的同情。”
他們補充說：“我們已經在信任和安全方面投入了大量資源”，指的是兒童的新安全功能，並提醒用戶“角色不是一個真實的人，並且一切都說角色必須被視為幻想。”
Openai週二宣布，它正在研究年齡預測技術，以指導年輕用戶限製圖形性內容的更專業的體驗，並將在極端情況下包括執法。它還在本月推出了許多新的父母控制，包括溢出的手錶，在此期間您無法使用Chatgpt少年。
