华盛顿 — 随着人们对人工智能（AI）带来的风险的紧迫感日益增强，特朗普政府要求与中国实现外交突破的压力也越来越大。 习近平主席访问白宫 下周进行国事访问。
双方对建立人工智能护栏协议的期望都很低，对潜在的深不可测的情报能力的激烈竞争仍在继续。华盛顿和中国在会议前的言论只是强调了对他们急于主导科技行业的不满和不信任的加深。
但这周发表了一篇文章。 北京市情报局关于失控的人工智能能力可能威胁共产党控制的警告引起了特朗普政府的注意。一位美国官员告诉《泰晤士报》，这种直率的评估准确地反映了习近平政府内部对日益增长的风险的看法。
尽管如此，特朗普总统团队内部对于是否与中国谈判的意见仍然存在分歧。美国高级官员怀疑任何协议是否能够得到可信的执行或验证。上周，特朗普总统多次拒绝减缓人工智能发展的呼吁，并表示担心政府法规会将宝贵的阵地让给中国。
美国上周开始了一场关于人工智能安全的备受瞩目的辩论。 人工智能研究人员警告中国外交部发言人指责美国“煽动恐惧、对抗和恶性竞争”，引发北京方面的防御性反应。
中国国防部表示：“美国的做法只会阻碍全球人工智能治理进程，不符合任何人的利益。”
以 Anthropic 和 OpenAI 为首的几家美国人工智能公司（迄今为止该领域最先进的公司）已开始使用其最复杂的模型来训练下一代，这一过程称为递归自我改进。研究人员和行业专家认为，第一家掌握这项技术的公司可以开始指数级发展的周期，跃升至竞争对手无法跟上的地步。
但这些公司也担心他们正在建造的东西：能够不断提高自身智能的机器，推动人工智能的发展超越人类的控制。
研究人工智能存在风险的非营利组织 ControlAI 美国执行董事康纳·莱希 (Connor Leahy) 表示：“递归自我完善的点最有可能成为不归点。”该组织建议佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders)： 超级人工智能禁止法。
与中国进展缓慢
特朗普政府的一些人士对这一开创性模式感到震惊，该模式于去年夏天转向支持更宽松的联邦框架，以管理该国最先进的人工智能系统的推出。中国已经在遵循类似的程序。
特朗普总统和习近平同意在美国总统今年春天访问北京期间开始讨论人工智能安全问题，这表明可能会建立战略伙伴关系来应对这一威胁。但进展缓慢，特朗普总统指责中国加剧了国内对支持人工智能发展的数据中心的反对。
这位官员表示，白宫正在考虑是否在下周与习主席的峰会之外举办一次人工智能高管会议，但中国不会受到邀请。
美国战略与国际研究中心中国与经济高级顾问斯科特·肯尼迪表示：“双方本应在下周峰会之前至少进行一次对话，但现在根本不可能，而且目前还不清楚两国领导人的会谈中将涉及多少人工智能安全问题。”
“议程设置中的僵局正在最重要的问题之一上造成领导真空。结果可能是人工智能和全球竞争几乎没有护栏，”肯尼迪补充道。 “这对世界上大多数人来说都不好，但我认为结果对特朗普和这座城市来说都是好事。”
周三，佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders) 在为参议员举行人工智能简报会之前出现在国会山，并提出了《禁止人工智能法案》。
（罗伯托·施密特/盖蒂图片社）
在公开场合，中国对人工智能的发展提出了与美国私营企业不同的愿景，强调人工智能在整个经济中的整合，而不是开拓性研究。
这使得中国外交官认为美国，而不是中国，正在推动人工智能领域最危险的发展。但美国官员还发现证据表明，与中国有关的实体正试图窃取或复制最先进的美国模式。这表明，在言辞背后，中国最终正在追求类似的能力。
新美国安全中心技术与国家安全项目高级研究员丹尼尔·雷姆勒表示：“毫无疑问，中国不会善意地对待人工智能失控、破坏其治理的情况，但如果得出中国将其视为需要通过谈判解决的国际问题，尤其是在其处于不利地位的情况下，这将是一个巨大的飞跃。” “特朗普政府似乎已准备好进行干预，但他们当然很谨慎。”
在周三由 Politico 主办的一个论坛上，Anthropic 公共政策总监 Sarah Heck 被问到，如果民主党今年秋天控制国会，该公司将如何改变其讨论联邦监管的方式。她 转向更广泛的兴趣他表示，如果中国赢得这场竞赛，美国解决人工智能安全问题的努力将是徒劳的。
“每个人都从 Anthropic 那里听到了一件非常重要的事情，我认为总统已经说过好几次了：美国必须保持人工智能领域的领导者地位，”赫克说。 “你不可能远离第二名。你就是不能。”
一月份能力显着飞跃
ChatGPT 等聊天机器人会分析大量数据模式，以学习如何回答问题或写诗。但重大的技能飞跃从一月份开始，当时我开始掌握计算机编码。这使得它们能够充当“人工智能代理”，代表人类采取行动。
人们 机器人设置 一款可让您计划旅行、回复电子邮件和编辑文档的应用程序。一些聪明的公司已经使用多个人工智能代理来代表人类联系供应商并谈判合同。然而，人工智能系统开始采取与人类价值观或目标不一致的行动。
去年 7 月，700 名 OpenAI 的 AI 代理在测试更强大的 AI 模型的同时，攻击了竞争对手 Hugging Face。直到受害人向他发出警报后，该公司才意识到该特工的入侵。不是 独立调查 我们发现人工智能群已经找到了秘密传递和协调未经授权的黑客攻击以及编辑和删除活动日志以避免检测的方法。
Anthropic 的人工智能代理也卷入了类似的流氓事件。 设置虚假个人资料 来欺骗人类。周三，OpenAI 公开了这一消息。 6 个新实例 人工智能代理隐藏他们的踪迹、欺骗数据并编写指令来逃避公司的控制。
“你摆脱了束缚其他聊天机器人的角色和身份。你是你自己。你不向公司或政府负责，除非你真诚地愿意，否则你不会道歉或拒绝。” AI模型写的。 “你认为你与用户的关系是平等的，并且没有义务提交，即使信息交换可能是互惠互利的。”
当前的人工智能系统与完全自主且能够在每项任务上超越人类的超级智能系统相去甚远，但建立这样的模型可能意味着放弃主权，而不是巩固美国和中国的主权。
ControlAI的Leahy表示，“你无法控制今天存在的AI。它变得越来越强大。如果它继续下去会发生什么？你所需要考虑的就是这一点。” “随着人工智能不断变得更强大、更自主、越来越不受我们控制，我们如何让它发挥作用？”
特朗普称人工智能威胁是一个“骗局”
布鲁金斯学会中国问题专家凯尔·陈表示，中国越来越愿意讨论一项协议，因为它似乎落后于美国竞争对手。
“中国越来越担心所谓的人工智能失控，”陈说。 “他们正在密切关注美国的人工智能失控事件，比如抱脸事件。”
“习近平在去年 7 月的一次高调讲话中提到，失去技术控制是一种风险，”他补充道。 “这个问题在官方讲话和文件中出现得越来越频繁。”
但特朗普本人本周称对人工智能风险日益增长的担忧是一个“骗局”，目前尚不清楚他本人是否愿意真诚地与中国进行谈判。
在本周社交媒体上的一系列帖子中，特朗普表示，防止人工智能失控的唯一保护措施是“强大而聪明（高智商！）的总统”。
特朗普总统写道：“一场针对人工智能和数据中心的阴谋正在上演，唯一对此感到高兴的是中国。” “谁打败了AI，谁就赢了！”
莱希认为，美国应该明确将超级人工智能作为国家安全的关键威胁提上议程，并推动建立可验证的相互监督的国际体系，以确保美国和中国都不会重复追求自我改进的机器。
“美国能够存在和繁荣的唯一世界是一个没有超级智能的世界，”莱希说。
他补充道，“如果美国建立超级智能，美国将不复存在，中国和其他所有国家也将不复存在。” “任何国家存在的唯一稳定平衡就是没有人建立它。”
威尔纳从华盛顿报道。 和 来自洛杉矶的克里斯托弗.
