在受到兒童安全倡導者、家庭和政治家的持續批評後，加州州長加文·紐瑟姆簽署了一項法案，旨在遏制人工智能聊天機器人的行為，專家稱這種行為是不安全或危險的，尤其是對青少年而言。
法律， 稱為 SB 243要求聊天機器人運營商防止其產品讓未成年人接觸色情內容，同時不斷提醒用戶聊天機器人不是人類。此外，遵守法律的公司必須實施協議來解決用戶討論自殺意念、自殺和自殘的情況。
代表聖地亞哥的民主黨州參議員史蒂夫·帕迪拉於今年早些時候起草並提出了該法案。今年 2 月，他告訴 Mashable，SB 243 旨在解決人工智能聊天機器人出現的緊迫安全問題。鑑於技術的快速發展和採用，帕迪拉表示“監管護欄仍然遠遠落後。”
大學為學生提供 ChatGPT。安全嗎？
Common Sense Media 是一家支持兒童和家長瀏覽媒體和技術的非營利組織，今年早些時候宣布其 AI 聊天機器人伴侶對 18 歲以下青少年不安全。
聯邦貿易委員會最近推出 對充當朋友的聊天機器人的調查。上個月，該機構告訴擁有聊天機器人產品的主要公司，包括 OpenAI、Alphabet、Meta 和 Character Technologies，他們正在尋求有關如何通過用戶參與獲利、生成輸出和開發所謂角色的信息。
在 SB 243 頒布之前， 帕迪拉感嘆人工智能聊天機器人如何結交朋友 可能對年輕用戶特別不利：“這項技術可以成為一種強大的教育和研究工具，但如果放任自流，科技行業將被激勵去吸引年輕人的注意力，並以犧牲他們與現實世界的聯繫為代價來保持這種注意力。”
易碎趨勢報告
加州為 Netflix 的人工智能安全、數據保護和安心服務開綠燈
去年，悲痛的母親梅根·加西亞 (Megan Garcia) 對最受歡迎的人工智能伴侶聊天機器人平台之一 Character.AI 提起過失死亡訴訟。他的兒子 Sewell Setzer III 在與 Character.AI 合作夥伴的一次艱難的交往後自殺身亡。該訴訟稱，Character.AI 的設計目的是“操縱 Sewell 以及數百萬其他年輕客戶，將現實與虛構混合在一起”，並存在其他危險缺陷。
代表 SB 243 進行遊說的加西亞讚揚了紐瑟姆的簽署。
“目前，加利福尼亞州已確認同伴聊天機器人將無法與兒童或弱勢群體談論自殺問題，聊天機器人也無法幫助某人計劃自殺。” 加西亞在一份聲明中表示。
SB 243 還要求配套的聊天機器人平台生成有關其產品的使用與自殺意念之間關係的年度報告。這使得該家族可以對“不合規和疏忽的開發商”採取私人法律行動。
加州正在迅速成為人工智能技術監管的領導者。上週，紐瑟姆州長簽署了一項法案，要求人工智能實驗室披露其技術的潛在危險以及有關其安全協議的信息。
正如 Mashable 的 Chase DiBenedetto 報導的那樣，該法案旨在“讓人工智能開發者即使在面臨競爭壓力時也對安全標準負責，並包括對潛在舉報人的保護。”
週一，紐瑟姆還簽署了兩項旨在改善兒童網絡安全的單獨法案。 AB 56 要求為社交媒體平台貼上警告標籤，強調社交媒體成癮對兒童心理健康和福祉的影響。其他賬單， AB 1043實施將於 2027 年生效的年齡驗證要求。
