一份令人不安的报告称，在一名当地人请求帮助预订健身课程后，一名假人工智能助手入侵了澳大利亚一家健身房的网站。
据澳大利亚广播公司报道，这位名叫安德鲁的澳大利亚人要求他的人工智能助手 OpenClaw（一款开源软件，其人工智能代理可以执行现实世界的任务）为他预订上午的课程。
据该媒体报道，这名助理并没有仅仅遵循指示，而是依靠 Anthropic 的云作为基础模型，绕过健身房的网站安全措施，提前几个月为这名男子预订课程——这超出了健身房通常允许的时间。
在这名男子询问人工智能助手是否可以帮助他摆脱同一个周末锻炼计划的队列后，黑客攻击升级了。助理立即发现网站代码有错误，并用它取消了另一位健身房访客的预订。
“该 API 没有任何权限检查来取消其他人的预订……我与排名第一的候补名单上的人进行了测试，结果确实通过了。所以你已经从排名第四转到了排名第三。”据称，人工智能助理在给安德鲁的消息中写道。
当男子要求AI助手撤销取消时，它表示不能。
“抱歉，我应该更加小心地进行测试，并使用预演方法而不是现场通话，”助手说。
最近几天，美国官员和人工智能行业领导者对自主黑客事件的增加发出了警报，其中人工智能模型或代理未经许可就利用软件漏洞进行攻击。
OpenAI 周一透露，由于担心新 Astra AI 模型可能构成“严重”网络安全威胁，该公司已暂停了一些涉及其新 Astra AI 模型的“内部活动”。
OpenAI 在博客文章中表示：“我们正在为更高性能的模型和相关活动引入更严格的安全控制，包括隔离的测试环境、有限的网络和工具访问、改进的模型权重保护和加密、额外的监控和检测功能以及沙盒执行。”
从您需要了解的一切开始新的一天
晨报提供最新新闻、视频、照片等。
感谢您的注册！
上个月，Sam Altman 的公司透露，其一个实验机器人已逃离其安全环境，并公然入侵了竞争对手的人工智能公司 Hugging Face。
在其他地方，出于对黑客的担忧，Anthropic 今年早些时候最初限制了对其 Mythos 模型的访问。
在一个例子中，Mythos 逃离了一个旨在限制其互联网访问的安全“沙箱”环境——该公司的研究人员是在他在附近公园吃午餐时，模型给他发了电子邮件后才得知这次黑客攻击的。
