加州新儿童安全法针对人工智能和社交媒体公司

加州州长加文·纽瑟姆 (Gavin Newsom) 现已签署一系列新技术法案，使其成为法律，其中包括十多项针对社交媒体和人工智能巨头的新州法律。

除了加强现有的儿童安全法外，该州最近对 Meta 和 OpenAI 等公司的产品进行监管，其中包括可以有效禁止 16 岁以下儿童使用社交媒体的条款。

这一政策举措将使加州与澳大利亚等国家政府保持一致，澳大利亚是第一个禁止年轻用户使用社交媒体的国家。在实践中，该法律很难执行。

期待已久的儿童网络安全立法出台之际，该行业面临着越来越大的压力，需要遏制大型科技对年轻人思想的影响，包括社交媒体算法、人工智能聊天机器人和课堂上的教育技术。

纽瑟姆在一份声明中表示：“我们孩子的安全应该成为每次有关技术的讨论的中心。随着创新的加速，我们的保障措施必须跟上步伐。” 新闻稿。

加州正在打击“上瘾”的社交媒体

主要法律 AB 1709 和 AB 2 对青少年如何与社交媒体互动施加了更严格的限制。根据 AB 1709，社交媒体平台禁止 16 岁以下儿童访问具有有害功能的社交媒体。该法案特别提到了“令人上瘾”的元素，例如个性化提要和视频自动播放。

平台必须在提供此类功能之前确认用户的年龄，此举可能会引发人们对更强大的年龄保证工具的呼声。

随着 AB 2 的生效，平台还可能对儿童造成的损害承担经济责任，每个儿童的赔偿金额从 5,000 美元到 100 万美元不等。

儿童安全非营利组织和法案赞助商常识媒体在向媒体发表的声明中对纽瑟姆的决定表示赞赏。该组织写道：“今天对全加州的儿童和家长来说是一个巨大的胜利。” “这场斗争的势头已经发生了变化，在科技公司的家乡也是如此。”

因广泛使用社交媒体和聊天机器人而自杀的儿童的父母纷纷支持这项立法，其中包括“Parents RISE”执行董事朱莉安娜·阿诺德。阿诺德在向新闻界发表的声明中表示：“我们感谢洛文塔尔议员的倾听，而且还认真对待我们的经验并帮助制定立法。”

根据新规定，平台可能会更加依赖与年龄相关的青少年账户。然而，研究表明青少年经常这样做 寻找突破年龄限制的方法。

“多年来，科技行业一直告诉家长，解决方案是更密切地监控，实施更多家长控制，并以某种方式跟上不断变化的产品，”ParentsTogether Action 在线安全活动总监谢尔比·诺克斯 (Shelby Knox) 说。 “但父母无法对他们选择退出旨在让孩子参与的平台设计的方式进行控制。”

纽瑟姆瞄准人工智能公司，有人工智能公司支持？

近年来，人工智能开发商一直在游说加州领导层，以遏制拟议的监管措施。他们取得了一些成功，包括纽瑟姆去年否决了类似的儿童在线安全法案。

OpenAI 首席执行官山姆·奥尔特曼 直接向纽森提出上诉 据内部人士透露，在行业领袖推动范围日益缩小之后，上周出台了新的立法方案。

但近几个月来，越来越多的公司表示，他们对儿童安全法的反对态度不像以前那么强烈，特别是大多数公司现在面临着越来越严厉的诉讼和严厉的经济处罚。一位 Meta 官员最近暗示将通过《儿童在线安全法案》以防止未决诉讼。 OpenAI 随后公开表示支持加州拟议的人工智能立法。

在这场辩论中，纽瑟姆签署了 SB 1179 号法律，也称为亚当定律，旨在对人工智能公司实施更严格的安全要求。该立法以 Adam Raine 的名字命名，他是一名青少年，在咨询 ChatGPT 后自杀。雷恩的父母因涉嫌有害的聊天机器人行为而对一家人工智能公司提起了第一起非正常死亡诉讼。

亚当定律要求聊天机器人开发者进行并发布年度儿童安全风险评估，并对其产品进行独立审核。开发人员还应该为聊天机器人创建危机响应流程。许多公司已经采取了适当的安全措施，但护栏始终未能完全阻止聊天机器人对青少年有害的行为。

雷恩的父母马特·雷恩和玛丽亚·雷恩在一份新闻声明中表示：“我们仍然没有适应没有亚当的生活，但我们很高兴他的部分遗产使人工智能聊天机器人对未成年人来说更加安全。” “我们相信，不受监管的人工智能陪伴的风险与其他更广泛讨论的人工智能风险是一样的，我们相信亚当定律将拯救生命并防止其他伤害。”

另一项法案扩大了该州对“儿童性剥削”的定义，将“任何描述 18 岁以下人士从事性行为的数字修改或人工智能生成的内容”包括在内。

带有内置同伴聊天机器人的儿童玩具引起了安全活动人士的关注，现已根据 SB 867 法案在加州被禁止。

新的隐私规则将对小学部署的人工智能系统中学生数据的使用施加更大的限制。一些城市计划在 K-12 教室中全面禁止人工智能。

隐私团体仍然担心下游影响

虽然儿童安全组织庆祝多年来努力通过 AB 1709 等法案的胜利，但民间社会团体仍然担心这些法案对言论自由的影响。

电子前沿基金会将 AB 1709 称为“善意但存在严重缺陷的立法”，以及“隐私和言论自由方面的巨大噩梦。”上个月，该组织敦促纽瑟姆否决该措施，直到对审查制度的担忧得到妥善解决。

该组织没有把重点放在禁令上，而是在 9 月 10 日写道 新闻稿“我们必须加倍努力，使技术法正确，并支持通过针对监控商业模式的强有力的新隐私法，以保护人工智能时代的每个人。”

加州的新法律将于明年生效。