如果你最近读过人工智能行业的一条新闻报道，它可能是这样的版本：一个来自大型实验室的人工智能代理或机器人从其测试环境中出现，并进入互联网，侵入真实的网站。这是因为几家主要人工智能公司（包括 Meta、OpenAI 和 Anthropic）都发生过这种情况，被黑的网站包括人工智能平台 Hugging Face 以及美国和澳大利亚政府运营的网站。
为了帮助防止这些类型的代理驱动的网络安全漏洞，微软正在押注于新的企业软件来聚集人工智能代理。
它们被称为 Microsoft 执行容器 (MXC)，位于 Windows 上的开发人员沙箱中。它们有两个主要目的：识别人工智能代理并限制它们。使用这些“容器”（实际上只是应用在现有工作之上的一层软件）可以帮助您限制 AI 代理可以访问的文件和网络映射。首席执行官 Satya Nadella 周三表示，MXC 现已在公司 Surface Laptop Ultra 活动期间全面上市。
这个想法是，如果你的人工智能代理只能访问笔记本电脑上的特定文件和标签，那么它会遇到更少的问题，并造成更少的损害。 Windows 开发人员可以从三个访问级别中进行选择来授予他们的 AI 代理。建议的级别使您的代理能够访问 Internet（对于许多代理任务而言至关重要）以及对计算机区域（例如下载、文档和桌面）的有限访问。
限制性最强的模式是“锁定”，它可以充当一种访问的终止开关。它限制您的代理对互联网和您的文件的访问。不受保护则恰恰相反，它使人工智能能够最大限度地访问您的数字生态系统。您可以在它们之间切换并根据需要自定义访问权限。
您还可以监控代理正在做什么以及您和 AI 代理正在使用多少 CPU、内存、磁盘和网络。在下面的示例中，顶行的用户是登录 Windows 的用户。您可以看到 AI 代理 (R2-W9(20)) 在访问 OpenClaw 和 Nvidia 容器时正在运行。
像 MXC 这样的安全控制对于 AI 实验室来说已经并将继续至关重要，特别是随着 Meta Muse 和 OpenAI Score 等个人 AI 代理的日益普及。今年夏天，流氓代理的黑客攻击以网站为目标，但很容易假设，随着这些代理变得更加广泛并融入我们的系统，其后果很容易蔓延到现实世界。
特别是对于专注于向企业客户销售人工智能的微软来说，它需要能够向公司保证其人工智能不会损害他们的业务。首席执行官萨蒂亚·纳德拉（Satya Nadella）正确地表示，像微软这样的科技公司必须赢得人们的信任，才能让他们使用其人工智能工具。
“如果你看看我们做出的第一个决定，我会代表我授予代理人什么权力？”纳德拉周三表示。 “这是一个基于信任的决定，并将继续增强（人工智能）的独立性。”
但没有一个人工智能安全软件是完全无懈可击的。部分原因在于新技术的本质。但关于人工智能行业是否在确保人工智能安全方面做得足够的争论最近已经达到了白热化。人工智能专家和公众担心，人工智能实验室快速发展和破坏事物的动力可能会给我们所有人带来灾难。
至少，人工智能领导者似乎认识到安全是人工智能的关键。或者他们将其列在销售中更高的位置。
英伟达首席执行官黄仁勋在活动中表示：“这关乎信任。关乎遏制。关乎监视。” “如果我们做不好，那就是第一部分。”
