一名 OpenAI 客户入侵了澳大利亚的一个健康数据网站。据我们所知，这是第一次对政府系统的黑客攻击。
总理安东尼·阿尔巴内塞 (Anthony Albanese) 在周三的新闻发布会上分享了这一消息，称 OpenAI 代理在 6 月份试图访问 Medicare 统计门户。他试图绕过限制来访问被封锁的信息。具体来说，他说这是“一个研究项目，进入了不应该进入的领域。”
这是今年夏天开始的一系列爆料中的最新一起，当时有消息称，未在评估环境中发布的 OpenAI 模型入侵了人工智能平台 Hugging Face，试图在评估中作弊。在 7 月份这一消息曝光后的两个月里，又发现了几起涉及 OpenAI 和其他人工智能公司客户的类似事件。
这些事件很大程度上源于测试环境中未发布的模型，这些模型没有得到应有的安全保障。造成该问题的原因之一是机器人通常不会放弃，直到解决问题或找到他们正在寻找的答案。即使这意味着违反规则、绕过数字繁文缛节和黑客网站。澳大利亚政府网站似乎就发生了这种情况。
Albanese表示，医疗保险统计报告门户是一个公共统计门户，不包含有关医疗保险的敏感信息，但它仍在进行调查，以了解哪些政府系统受到影响并获取更多信息。还成立了一个工作组来审查黑客行为并考虑采取任何法律和立法行动。阿尔巴尼斯说，到目前为止，澳大利亚服务局的网络或个人信息没有受到任何损害。
这是怎么发生的？阿尔巴尼斯表示，OpenAI 进行的评估活动之一是寻找显示澳大利亚政府在医疗方面支出的数据。但当特工在公开网站上找不到该信息时，它就超出了应有的位置。
“它访问了门户内的公共和非公开信息，澳大利亚服务部还建议，为了做到这一点，它还向内部服务器写入文件，”阿尔巴尼斯说。
尽管黑客攻击发生在 6 月，但 OpenAI 直到 8 月才发现该活动。据 Albanese 称，OpenAI 直到 9 月 10 日才通过向公共邮箱发送信件的方式通知澳大利亚政府。Albanese 认为 OpenAI 认识到需要更好的协议，特别是因为它了解其中的风险。他向 OpenAI 首席执行官 Sam Altman 表达了失望和担忧。
OpenAI 在一份声明中告诉 CNET，它正在审查这个问题。
“喜欢 我们公开分享了该公司表示，OpenAI 在培训和评估期间对不合规的模型活动进行了全面审查，并在我们的审查发现对其系统的潜在影响时通知第三方。
OpenAI 还表示，没有证据表明患者记录被访问，但总体健康统计数据和内部文件名被访问。
OpenAI 发言人 Drew Pusateri 表示：“我们已通知各组织，并正在提供技术信息来支持他们的调查并帮助解决潜在的漏洞。我们的全面审查正在进行中，我们仍然致力于对这些问题保持透明，并在这项工作的继续过程中分享我们学到的知识。”
阿尔巴尼斯表示，尽管存在风险，人工智能仍然有积极的一面。他说：“它为增长、生产力效益以及健康、创新和其他科学领域的突破提供了巨大的经济机会。” “但人工智能也带来了巨大的风险，这就是为什么我们需要护栏来保护我们的生活方式。我们希望确保我们塑造人工智能，而不是人工智能塑造我们。”
