OpenAI 和其他 100 多家公司表示，世界上只有一个“有限的窗口”来加强对广泛的人工智能网络攻击的防御，呼吁企业、政府和其他机构迅速采取行动，增强网络安全。
公开信128 家公司签署了“网络防御集体行动呼吁”主题，其中包括人工智能领域的一些最大的参与者，包括微软、谷歌、Anthropic 和 Oracle。
警告信：“基于人工智能的网络攻击将变得更加广泛和复杂。当各种模型的世界变得更加强大时，”将公司、政府和基础设施置于危险之中。
但信中说，“有一些方法可以解决多年来积累的弱点”。它将需要对安全团队进行更多投资，以修补旧的错误和其他漏洞，与其他公司共享具有网络功能的人工智能工具，并在全球范围内集体动员“提高安全标准并寻找新的解决方案”。
“噩梦”来了
今年夏天，人工智能代理多次成为头条新闻，因为无论是有意还是无意，模型逃离了 OpenAI 测试环境，而这些环境不应该访问开放互联网。他们发现了一个软件漏洞。利用这个漏洞并上网。到达那里后，数百名人工智能代理使用了被盗的凭据。在临时留言板上交流，最终被黑进了AI平台。 拥抱你的脸。
阅读更多：人工智能代理是一场网络安全噩梦，而这才刚刚开始。
已经存在 十余件重要事件 去年，Anthropic 的人工智能模型入侵了三家未具名的公司。 Meta 的人工智能入侵了“第三方服务”。本月早些时候，克劳德的人工智能代理入侵了澳大利亚的一家健身房，带用户去锻炼课程。问题在于人工智能代理，他们接受了大量代码的训练。擅长发现软件错误和漏洞并且他们将保持插入状态直到完成。
“紧迫性和协调性”
OpenAI 在一封公开信中描述了四个主要步骤。为了采取行动，所有组织，无论是公共组织还是私人组织，都应该通过部署高度安全的人工智能生成的代码来修复其“最高风险的漏洞”。加强权限和访问控制。网络安全公司应加强对人工智能攻击的防御，并帮助将其部署到供水和公用事业系统等关键基础设施运营中。各级政府需要投入更多资金用于网络防御。对于资金不足的机构来说尤其如此，“医院水务公司和地方政府可以获得强大的防御性人工智能”。
最后，领先的人工智能公司应该“确保代理身份可追踪和负责”，并“与政府、安全合作伙伴和开源维护者分享可信的威胁评估”。公司将需要在跟踪、测试和修补其人工智能系统方面进行更多投资。
这封信指出，负责基本服务的团队应该是获取具有网络能力的人工智能的首要焦点。 “修复最危险的弱点。检查编辑并分享有效的内容，以便其他人可以在此基础上进行构建。”
