华盛顿 – 在特朗普政府努力解释一系列令人震惊的技术中断之际,州长加文·纽瑟姆 (Gavin Newsom) 在华盛顿公布了一份人工智能安全路线图,将自己定位为快速发展的技术的主要监管者。
两个月前,州长发布了一份全面的报告,介绍加州如何在缺乏联邦监督的情况下推进前沿人工智能平台的围栏。
周三,他在中国首都向潜在的 2028 年总统候选人提出了这一计划,当时正值特朗普总统与人工智能竞争对手中国的领导人会面,公众对人工智能在最近的网络攻击和技术颠覆中的潜在作用感到担忧之际。
纽瑟姆在政治和科技记者面前与几位领先的人工智能学者和经济顾问一起表示:“对这个话题的担忧程度为十分之十二,从很多方面来说,这是由于华盛顿特区缺乏领导力。”
纽瑟姆在人工智能控制方面的记录好坏参半,他说 85页计划 加州将把如何监管快速发展的技术“提升到一个新的水平”,并且也应该成为联邦监管的“模板”。
该报告的部分重点是控制迭代自我改进的风险,或者人工智能创建超越和逃避人类控制的连续模型的实践。它还讨论了实施“终止开关”机制的可能性,该机制能够关闭那些失控并追求非人类指导目标的人工智能模型。
它呼吁扩大对科技公司的披露规则,将失去控制的情况包括在内,例如 OpenAI 代理在 7 月份失去控制并入侵了竞争对手人工智能公司 Hugging Face 时。它的重点是确保审计前沿人工智能公司正在进行适当的风险评估,而不仅仅是监管领域。
该报告发布之际,加州立法者正在努力制定美国首个人工智能安全立法,例如去年的参议院第 53 号法案,该法案要求公司披露其安全协议并报告关键事件。纽瑟姆在去年否决了一项早期的人工智能保护法案后签署了该法案。
在华盛顿,纽瑟姆批评特朗普对监管人工智能公司的松懈态度以及他对最新技术相关障碍的宽松公众反应。 “这就是生活,”特朗普周二表示,并建议有价值的大公司必须应对此类问题。
相比之下,纽瑟姆称人工智能是我们这个时代的核心问题,并表示“它将以多种方式定义这个国家和我们所知道的世界的未来”,并强调政府现在需要采取强有力的应对措施。
本周早些时候,加州律师。罗布·邦塔 (Rob Bonta) 将军宣布,该州正在起诉总部位于旧金山的 ChatGPT 的制造商 OpenAI,指控其“故意构建先进的人工智能 (AI) 模型并在没有充分保护公众所需的监督的情况下对其进行测试,从而误导并危害公众。”
一个 政府问责办公室报告 周三发布的警告称,滥用该技术“对国家和经济安全构成了越来越大的风险”。研究人员找到了一种绕过人工智能聊天机器人安全功能的方法,可以帮助不良行为者制定攻击计划,包括制造爆炸物的指令和破坏电网的阴谋。
纽瑟姆计划在两个月前发布自己的报告,但根据上周的消息,周三似乎已经得到了应有的关注。
最近几天发生的一系列网络攻击和技术中断让各种政治派别的美国人及其在国会的许多代表都感到紧张,并询问他们是否相互关联——而缺乏信息和公众信任的特朗普政府正在努力缓解这些担忧。
最近几天,随着有关 Zoom、Salesforce、Apple、Salesforce 和 United Systems 等公司的知名网站遭受影响深远的攻击的报道浮出水面,人们对上周因电信系统故障而导致的微软大规模宕机以及美国联邦航空管理局紧急关闭美国领空的担忧加剧。国家气象局、国家安全局和其他政府机构的服务中断。
到周三,有关失败名单的讨论已在网上广泛传播,大量的阴谋论和猜测助长了这种讨论。
在 国会听证会 特朗普政府官员在与记者交谈时表示,美国人对一系列中断提出问题是正确的,但坚称中断是由技术问题造成的,而不是协调一致的网络攻击。
国家情报总监杰伊·克莱顿 (Jay Clayton) 告诉众议院国土安全委员会:“根据我们今天所知,经过大量数字化工作,这些都是与维护和技术变更相关的孤立服务中断。” “这些不是协调或国家支持的攻击。”
他表示,这是基于他对全国系统“升级大幅增加”的“知情”信念,部分原因是在人工智能工具的推动下,需要比以往更快地修补系统漏洞。
该小组的立法者怀疑连续两次停电是否是巧合,这与两党同事最近几天提出的担忧相呼应。
“美国人民看到了这些服务中断所发生的一切,他们觉得自己没有了解整个故事。你不能为此责怪任何人。我是国会议员,我也有同样的感觉!”佛罗里达州共和党参议员里克·斯科特 (Rick Scott) 周二在 X 会上写道:“我们需要向国会通报情况。这些机构和联邦机构需要对正在发生的事情保持完全透明。”
纽约州众议员迈克·劳勒 (Mike Lawler) 也呼吁召开国会简报会,他写道:“虽然其中一些可能是巧合,但很明显,我们必须认真对待网络安全和人工智能的恶意使用,并立即采取行动。”
特朗普的其他盟友也呼吁提高透明度,担心政府没有采取足够措施来解释停电的根本原因。
白宫前新闻秘书卡罗琳·莱维特周二表示,政府应该更加公开地透露其所知道的“真正降温”的内容。与特朗普关系密切的极右翼活动人士劳拉·卢默 (Laura Loomer) 指责政府官员“撒谎”,停电与袭击无关。
交通部长肖恩·达菲 (Sean Duffy) 表示,最近在阿肯色州和德克萨斯州的联邦航空局设施中安装的两台路由器周五引发了地面停车。他说,他们的安装是用光缆取代该机构老化的铜线系统的努力的一部分。但他表示,目前还不清楚是什么原因导致设备出现故障。
周三,国土安全部部长马克文·穆林 (Markwen Mullin) 表示,他有 98% 的信心认为,美国联邦航空局 (FAA) 的中断和最近的其他中断与试图侵入美国系统的对手无关。他为自己在地面停留后第二天乘坐政府飞机观看路易斯安那州立大学-德克萨斯州大学橄榄球赛的决定进行了辩护,称取消行程将发出有关重新开放空域安全性的误导信息。
周三,纽瑟姆称达菲和穆林“愚蠢又愚蠢”,他们帮助领导了政府对停电的反应,并将他们在现场举行的新闻发布会比作“周六夜现场”的小品。
“这是一件严肃的事情,”纽森说。 “重要的事情需要严肃的领导。我们国家现在还没有这样的领导。”
洛杉矶时报特约撰稿人达科塔·史密斯对此报道做出了贡献。











