加利福尼亞州州長加文·紐瑟姆 (Gavin Newsom，民主黨) 簽署了一項法律草案，對人工智能聊天 (AI) 如何與兒童互動以及處理自殺和自殘問題設置了新的監管措施。
SB 243 於 9 月中旬刪除了州立法者，要求“陪伴聊天機器人”的開發者制定協議，防止其模型生成內容、自殺或自殘，並在必要時指導危機服務。
它還要求聊天機器人發出“清晰可見”的通知，如果有人可能被合理欺騙而相信他們與另一個人互動，那麼它們是人為生成的。
與孩子互動時，聊天機器人必須每三個小時發出一次無人提醒。開發人員還有義務創建系統，防止其聊天機器人在未成年人對話中產生露骨的色情內容。
紐瑟姆在一份聲明中表示：“聊天機器人和社交媒體等新興技術可以激發、教育和聯繫——但如果沒有真正的保護，技術可能會利用、誤導和危害我們的孩子。”
他補充說：“我們已經看到了一些真正可怕和悲慘的例子，年輕人因非正規技術而受傷，當這些公司在沒有必要的限制和責任的情況下繼續下去時，我們不會留下來。” “我們可以繼續引領人工智能技術，但我們必須負責任地去做——每一步都保護孩子們。我們孩子的安全是不賣的。”
加州一名青少年的家人於8月底起訴Openai，聲稱Chatgpt鼓勵他16歲的兒子自殺。上個月，父親馬修·雷恩 (Matthew Raine) 與另外兩名家長一起在參議院的一個小組面前作證，指控聊天機器人讓孩子自殺或自殘。
人們越來越擔心聊天機器人如何與兒童互動，聯邦貿易委員會 (FTC) 決定對此問題展開調查，要求幾家頂級科技公司提供信息。
感覺。喬什·霍利（共和黨議員）和迪克·德賓（民主黨議員）也在上個月底提出了立法，將對產品的聊天機器人進行分類，以允許受傷用戶提交責任申請。
加州的這項措施是紐瑟姆在本屆會議上簽署的幾項與人工智能和技術相關的法案中最新的一項。週一，他還批准了一些措施，要求在社交媒體平台上貼上警告標籤，並通過操作系統和應用商店檢查年齡。
9月底，他還簽署了SB 53，要求頂級模型發布干部，詳細說明如何評估和減輕災難性風險。
