由 OpenAI、Anthropic、亚马逊、微软和 100 多家科技公司推出。 公开信 周四，这封信警告说，呼吁采取一致行动，让“我们社区所依赖的公司和公共服务”容易受到基于人工智能的网络攻击。未来“它将变得更加广泛和复杂”。
信中说：“我们加强网络防御的时间有限。”随着全球模型变得更加强大，基于人工智能的网络攻击将变得更加广泛和复杂。我们社区所依赖的公司和公共服务，从医院到水处理厂，再到互联网基础设施，都面临风险。”
这封信警告说，人工智能技术领域的持续进步使黑客能够更轻松、更便宜地瞄准关键系统和基础设施点。发信人呼吁脆弱的政府、组织和公司。 “认识到现状的安全性是不够的”以及“长期存在的缺陷、权限过多、配置不正确、软件不安全且未打补丁、旧系统中的身份验证薄弱和技术债务导致系统暴露。”
为了解决这个问题，这封信呼吁历史上资源不足的安全团队注入“具有网络能力的人工智能”和其他新工具和资源。 OpenAI、微软和其他公司鼓励所有合格组织“将网络防御作为当务之急”，并“解决风险最高的漏洞。在不中断基本服务的情况下验证结果。并增强您购买、构建和部署的安全性，包括人工智能生成的代码。”
在联合行动概要计划中，这封信确认，公司和网络安全合作伙伴必须：“领导应对措施，防止可持续的人工智能攻击”，其中包括实现“关键基础设施运营商可以访问和适应人工智能驱动的保护。在部署工具和审查修复程序方面提供实际帮助，并与关键基础设施供应链制造商和系统集成商合作解决和发布临时指南。”
这封信还向世界各国政府提供建议。 “在地方、国家和国际层面协调网络防御”和“资助网络防御。它从缺乏人员或预算来运营的基本服务开始。”也许最重要的是，行动呼吁指出了政府提供“医院、自来水公司和地方政府获得强大的预防性人工智能。通过值得信赖的安全提供商和合作伙伴进行授权测试和直接支持”的重要性。
最后，信中声称，像 OpenAI 这样的前沿人工智能公司必须“提供负责任的模型、大量资金、培训和直接支持”，以及“向政府、安全合作伙伴和开源维护者分享工具使用指南和可靠的威胁评估，以加强准备、响应和恢复。”
“网络能力正在世界范围内不断进步。这可能是一个净积极因素。任何公司都不应控制未来，”信中说。 “这也意味着全球必须做出反应。它需要新的合作伙伴关系来提高安全标准并找到新的解决方案来应对新兴的网络威胁。”
信中总结道：“我们呼吁行业和政府领导者充分部署他们的技术、资源和专业知识来实现这一目标，将具有网络能力的人工智能交到防御者手中。首先是保护基本服务的团队。修复最危险的弱点、检查编辑并分享有效的方法，以便其他人可以在此基础上继续发展。当我们共同努力时，我们可以将当今的人工智能进步转化为持久的安全改进，造福所有人。”
这封信的发布正值网络攻击变得越来越普遍之际，最近一次针对的是美国供水系统。在全州范围内，至少有 12 个州受到网络攻击的影响，专家认为这些攻击可能与伊朗正在进行的战争有关。
在本周发布的视频中，微软创始人比尔盖茨警告说，人工智能“既是人类有史以来设计的最强大的平等工具，也是对平等的最大威胁”。 “我担心我们还没有做好准备。没有计划让进入AI时代变得更容易，甚至连计划都没有。”
您可以亲自观看下面的视频。
