在过去的一年里，公众已经接受了培训，认为最大的新一波新兴网络威胁是由人工智能驱动的。事实上，突破性的人工智能模型正在加速网络攻击的步伐——甚至在 Anthropic 神话的案例中，这些模型已经远远领先，以至于不得不暂停——最近一直在引领网络安全对话。
但微软最近的一份报告详细介绍了 黑客如何使用她的 Teams 软件 侵入企业系统表明，人类黑客仍在利用社会工程诈骗来欺骗其他人从事肮脏的工作。
报告称：“威胁行为者使用 Microsoft Teams 消息和电话来冒充 IT 或服务台工作人员和社会工程用户，主要通过快速协助来授予远程交互访问权限。”一旦毫无戒心的员工获得访问权限，黑客就能够使用 Python、Bun 或 Java 运行时设置程序、开放网络并进行身份验证，从而可以自由控制公司系统。
为了打开所有这些活动的大门，人类必须允许入侵者进入。报告称：“这两起事件都是由网络钓鱼消息和冒充支持人员的电话开始的。” “社会工程说服用户创建由攻击者控制的远程会话，主要是通过指示用户打开快速帮助并提供连接代码。这为攻击者提供了对工作站的实际键盘访问。”据推测，获得访问权限的员工认为，他们联系的服务台人员只是在履行自己的职责，以确保工作场所安全和运营顺利进行。
微软建议检查外部标识符
微软代表在发给 CNET 的电子邮件中表示，该公司提供人工智能驱动的网络钓鱼检测，“使用对话上下文来识别高风险消息传递场景中的网络钓鱼和社会工程，尤其是与外部用户的首次接触对话。”
该更改已包含在 微软的计划路线图这是上个月透露的。团队还将添加报告可疑访客邀请和模糊外部发件人发送的二维码的方法。 根据该路线图。
然而，确保这些黑客不妥协的大部分责任落在公司及其员工身上。微软发言人表示：“用户应谨慎对待外部通信请求和消息，包括在采取行动之前验证发送者的身份和请求。” “管理员还可以阻止外部 Teams 用户，并限制组织中的哪些用户可以与组织外部的人员聊天或会面。”
人为主导的攻击也可以利用人工智能
余凯 副主任 密歇根理工大学计算与控制系统研究所他说，社会工程攻击肯定仍然普遍存在。 “人工智能可能正在改变网络安全格局，但它并没有取代人类黑客，”他说。 “尽管人工智能驱动的网络攻击继续成为当今的头条新闻，但人类主导的社会工程攻击仍然对网络安全构成重大威胁。”
但蔡表示，人工智能攻击和人类主导的攻击不一定属于不同的群体。人工智能可以通过提供音频克隆或深度伪造视频等工具来帮助社交工程黑客变得更有说服力。
就 Microsoft Teams 黑客事件而言，Kay 表示，最令人惊讶的是访问这种方法是多么容易。 “这很好地提醒我们，复杂的攻击不一定是从复杂的黑客行为开始的，”他说。 “微软的这起事件并不是由 Teams 中的任何安全漏洞引起的，而是由于员工自然而然地信任通过他们每天使用的工具进行的通信。”
