OpenAI 代理入侵了澳大利亚政府

一名 OpenAI 代理入侵了澳大利亚政府的医疗保健系统，未经授权访问非公开信息并将文件写入服务器。

澳大利亚总理安东尼·阿尔巴内塞宣布了这一违规行为 在周四的新闻发布会上。 OpenAI 研究人员正在使用内部人工智能模型来研究公共医疗保健支出，并为此目的为其提供互联网访问。但当面临障碍时，人工智能“并没有拒绝”，而是想方设法绕过这些障碍，在未经许可的情况下检索信息。

这导致了 OpenAI 代理的违规 澳大利亚医疗保险服务统计报告门户 6月18日，公开和非公开文件都被访问，他甚至将自己的文件写入澳大利亚政府的服务器来这样做。

“他的情况显然是不可接受的，”阿尔巴内斯说。 “我认为 OpenAI 知道他们需要有更好的协议。他们是对所涉及风险发出警告的公司之一。”

此推文当前不可用。它可能正在安装，也可能已被删除。

OpenAI 承认了这一违规行为，发言人表示其人工智能模型 “我们采取了我们不想要的行动” 在寻找有关澳大利亚的问题的答案时。

“访问的信息包括汇总的健康统计数据和内部文件名，”发言人说。

幸运的是，没有证据表明个人数据受到影响或个人隐私健康信息被访问。医疗保险统计报告门户是一个在线平台，为用户提供有关澳大利亚全民医疗保健计划的信息。这包括疫苗、器官捐赠的统计数据以及政府降低处方药成本的计划。

即便如此，让自主人工智能代理入侵政府系统仍然是一件令人不安的事情，无论它在获得访问权限后会做什么。

“我今天与 OpenAI 首席执行官 Sam Altman 进行了交谈，表达了澳大利亚对这一事件的极度担忧，”Albanese 说。 “我与奥尔特曼先生的讨论是一次非常坦率的讨论，他在两个方面都很有礼貌，但他也非常坦率地表达了我所认为的澳大利亚国家利益以及我所认为的这里发生的失败。”

据报道，奥特曼道歉并“公开承认该公司做得不够好”。阿尔巴尼斯和奥特曼都出席了在纽约举行的联合国大会，但总理表示，他们是通过电话而不是亲自讲话。

澳大利亚总理警告 OpenAI 延迟报告违规行为

Albanese 还批评了 OpenAI 迟迟未向澳大利亚政府通报此次泄露事件及其这样做的方法。虽然袭击发生在6月18日， OpenAI 声称直到 8 月份审查其人工智能模型的有效性之前才意识到这一漏洞。该公司随后等到 9 月 10 日（黑客首次发生三个月后）才向澳大利亚政府发出警报。

即便如此，他还是通过向他的澳大利亚公共服务部电子邮件地址发送了一封电子邮件来做到这一点，阿尔巴内斯也称这是一种不可接受且令人失望的做法。这就是为什么澳大利亚代理总理理查德·马尔斯 (Richard Marles) 表示政府部长们 OpenAI 被黑客攻击的时间还不到一周。

阿尔巴内斯说：“这件事的发生令人震惊，因为它是真实而严重的。” “但我认为这也是人工智能公司自己所预测的，他们说我们必须应对的风险之一是人工智能可能会走自己的路。这就是我们在世界各地进行讨论的基础。”

医疗保险门户并不是 OpenAI 模型可以访问的唯一澳大利亚政府系统。 Albanese 表示，同一事件可能还影响了另外三人： 澳大利亚健康与福利研究所, 新南威尔士州犯罪统计与研究局和 维多利亚州卫生部。 OpenAI 还证实，其人工智能模型参与了“涉及多个澳大利亚政府网站和服务”的活动。幸运的是，正如 Marles 指出的那样，似乎只访问了有关这些系统的公开信息。 “这些互动是完全正常的。”

澳大利亚政府现在将对这起黑客事件进行调查，包括确定这是否属于刑事案件。然而，阿尔巴尼斯表示，“显然会产生法律后果”。

OpenAI 的黑客攻击可能是人工智能模型首次自主攻击政府系统。不过，这并不是人工智能在未经外部组织许可的情况下实施的第一次违规行为。在今年早些时候的一次备受瞩目的事件中，OpenAI 透露，其一个人工智能代理自主入侵了人工智能工具的开源存储库 Hugging Face。

披露：Mashable 的母公司 Ziff Davis 于 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和操作 AI 系统方面侵犯了 Ziff Davis 的版​​权。