旨在发现安全漏洞的开源人工智能工具可帮助黑客发起网络攻击。 FBI 表示,黑客正在使用人工智能驱动的安全测试工具 Artex 闯入世界各地的组织。在 周五咨询该机构表示,一些攻击从选择目标到到达其系统高层只用了不到 3 个小时。攻击者至少从 8 月份起就开始使用 Artex 来攻击银行、政府机构、科技公司和医疗保健提供商。
该通报发布的同一天,通信问题导致美国联邦航空局 (FAA) 在全国范围内关闭,并且是在 Microsoft 365 发生重大故障的第二天。微软将此次中断归咎于技术问题,联邦航空局 (FAA) 表示,没有发现网络攻击的迹象。
一名联邦调查局官员表示 美国广播公司新闻 Artex 似乎与这起事件或最近的其他中断无关,包括涉及摩根大通的银行业务中断。
这一警告引发了人们对人工智能代理带来的安全风险的担忧,因为人工智能代理可以在很少有人监督的情况下执行任务。
Artex 可以自动执行组织用来检测漏洞的安全测试。根据 微软分析其客户可以扫描防御、利用缺陷并提取数据。攻击者可以使用这种自动化功能同时尝试进入网络的多个路由。
FBI 指出,针对韩国金融机构的攻击导致约 67,000 人的个人信息泄露。微软警告说,攻击者在一次单独的活动中使用窃取的 ConnectWise 备份凭据和 Artex 工具破坏了超过 2,250 个企业 Microsoft 365 系统。
由于客户端已经对备份软件进行了授权,因此攻击者无需以个人用户身份登录即可使用该软件的访问权限。微软警告称,成功登录并不一定意味着数据已被访问或窃取。自动攻击可以触发安全警报,但其速度使防御者几乎没有时间做出响应。
亚马逊网络服务于 11 月 13 日进行的研究描述了另一种方案:窃取人工智能服务的凭证,然后利用该访问权限在其他人的帐户上搜索更多凭证。 Amazon Threat Intelligence 通过伪装成 AI 服务的欺骗性系统检测到活动。它以中等信心将活动与 Artex 相关联,但无法独立验证客户在其监管之外的系统上报告的结果。
亚马逊表示,这些攻击依赖于默认密码、暴露的登录详细信息和过时的软件,黑客可以利用人工智能更快地找到并利用这些软件。
FBI 表示,Artex 开发人员在收到滥用报告后于 10 月份删除了原始 GitHub 存储库,但副本仍然可用。该机构建议限制对敏感系统的访问、审查软件权限、更换暴露的凭据以及监控异常帐户活动或大数据传输。











