Home 世界新聞 加州人工智能控制“聊天機器人”,這在美國尚屬首例

加州人工智能控制“聊天機器人”,這在美國尚屬首例

87
0

州長加文·紐斯 (Gavin News) 週一宣布,加州首次在美國首次執行了該法律,此前該州因與這些工具建立親密關係的青少年發生多起自殺事件,該法律在美國首次通過控制“聊天機器人”來執行法律。

這位民主黨州長周一拒絕了白宮反對人工智能控制的壓力,簽署了多項法律,這需要其他問題來驗證用戶的年齡、定期顯示警告信息並提供自殺抵抗協議。

加文·紐贊在《一攬子立法法案》簽署後發表的一份聲明中表示,“我們已經看到了一些最可怕和悲慘的例子,年輕人正遭受技術控制不力的困擾,組織在沒有限制和責任的情況下工作時不會袖手旁觀。”

主要文本之一,SB243 法,表達了對聊天機器人控制的擔憂,例如合作夥伴或信徒可以玩的平台,例如復製品或角色。

第二個是第一個起訴塞維爾的14歲美國青少年,她在與一艘受《權力的遊戲》系列啟發的聊天船建立戀愛關係後於2024年自殺,並懷疑將她的自殺念頭附加到更多。

加州州長表示:“我們可以在人工智能領域處於領先地位(……),但我們必須負責任地工作,以保護我們孩子的道路。”加利福尼亞州是矽谷和 OpenAI (ChatGPT)、谷歌 (Jemi) 或傑伊 (Jei) 或傑伊 (Grock) 的故鄉。

除了年齡驗證之外,該法案還定期向用戶發出消息,提醒他們正在交談的人是一台機器(未成年人每 3 小時一次)。它要求公司識別自殺想法,提供抵抗計劃的訪問權限,並向當局發送統計數據。

加州參議員史蒂夫·帕迪拉(Steve Padilla)在辯論中表示:“我們鼓勵科技行業吸引年輕人的注意力,並讓他們在現實世界中失去關係。”

事實證明,“聊天機器人和社交網絡等新興技術可以激勵、教育和吸引人們,但如果沒有真正的保護,它們就會利用、誤導和危害我們的孩子”。

在美國,沒有國家規則來限制與人工智能相關的風險,並試圖阻止白宮各州制定自己的規則。

來源連結