下次你拿起一盒牛奶时，请考虑以下事项：它可能经过了比人工智能系统编写电子邮件、审查工作申请或与银行谈判更多的安全检查。微软总裁布拉德·史密斯表示，这就是问题所在。
在 上周接受英国独立电视台采访史密斯说，人工智能的监管比牛奶和洗衣机要少。他建议政府采用既定的生产安全实践，并建议人工智能公司建立“终止开关”，这是一种紧急制动装置，允许操作员关闭开始以不安全或意外方式运行的系统。
史密斯发表此番言论之际，公众越来越担心，行业对安全的自愿承诺（一种无约束力的自我监管形式）不足以管理那些可能影响决策、处理敏感数据和导致网络攻击的系统，这些系统落入坏人之手。最近发生的所谓“流氓人工智能代理”逃离其环境的案例，例如今年夏天著名的“拥抱脸”黑客攻击以及试图入侵澳大利亚和美国政府网站的事件，引起了人们对所谓的人工智能“存在危险”的审查，并引发了暂停的呼声。
周六，微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 回应了史密斯的观点 帖子 X 长说大公司对其使用的工具缺乏“机器理解”。纳德拉还呼吁放慢开发、事件报告和独立审查流程。
纳德拉写道：“我们必须构建可以监控行为的封闭系统、可以测试的边界以及可以始终包含的行为。”
微软发表上述声明不到两周前，包括纳德拉在内的人工智能高管与唐纳德·特朗普总统会面，特朗普宣布提议将人工智能重新命名为“超级智能”。
包括 Anthropic 首席执行官 Dario Amodei、Google 首席执行官 Sundar Pichai、Meta 首席执行官 Mark Zuckerberg、OpenAI 首席执行官 Greg Brockman、Nvidia 首席执行官 Jensen Huang 和 xAI 创始人 Elon Musk 在内的几位硅谷领导人签署了该协议。 白宫超级情报协议他承诺成立内部委员会来监督开发并与独立审计师合作。 （尽管微软没有签署特朗普的自愿协议，但纳德拉在最近的 X 帖子中特别使用了“超级智能”一词。）
史密斯和纳德拉的评论使微软更接近 Anthropic 所支持的“谨慎”阵营，该阵营呼吁对人工智能进行更强有力的监管。与此同时，OpenAI 的奥特曼 他说 对于人工智能，我们都应该“接受一些不好的事情会发生”，而不是 扎克伯格和黄 继续加大力度反对人工智能发展在全行业范围内协调放缓。
无论人工智能领导者在监管辩论中站在哪一边，他们都将从参与有关安全障碍的讨论中以某种方式受益。例如，微软最近发布了 Microsoft Execution Containers，这是一项企业安全功能，通过限制人工智能模型可以访问的文件和程序并提供内置终止开关来在必要时立即关闭它们来保护设备。
微软代表拒绝发表任何进一步评论。
讲述“流氓人工智能”并监管大型科技公司
尽管公共安全面临的威胁越来越大，但特朗普政府不太可能支持对整个人工智能行业进行监管。总统有 宣布 人工智能安全是一个骗局，尽管内部人士报告称，更细致的讨论正在闭门进行。特朗普上个月 发表于《社会真相》 而AI行业唯一需要的护栏就是一个“强大、聪明的老板”。
2025 年 12 月，特朗普发布了一项行政命令，旨在阻止各州通过规范人工智能模型开发的“繁重立法”，将责任转嫁给他的政府。总统 他继续在网上发表 关于为最大的人工智能公司维持低监管环境。
许多著名的人工智能批评者认为，整个监管框架从一开始就存在缺陷，因为它允许人工智能公司按照自己的方式识别和应对安全威胁。 由人工智能研究院创始人 Timnit Gebru 分发 R. 辩称涵盖围绕“抱脸”和访问等事件的“流氓人工智能”叙述访问政府网站会转移人们对潜在企业失败的注意力。
“这些不是流氓模型，”格布鲁说。 现在的民主 在 10 月 1 日接受他采访时，“这是一家特定公司的严重无能和疏忽。”
格布鲁说，人们需要明白，这些容易出错的机器并不与自己的机构独立运行。 “我们需要让公司负责将这些容易出错的模型推向世界，”她说。
格布鲁表示，关注所谓的失控人工智能和推动自愿自我监管是该行业用来避免现行法律问责的两种方式。人工智能公司不再面临现在发生的不安全安全实践的责任，而是将话题转向未来可能发生的前所未有的风险。
真正的危险是监管捕获，因为人工智能公司制定了本应限制它们的规则。通过这种方式，公众被要求信任构建人工智能并从中获利的公司的道德规范。
