代表图片（图/路透社）
新德里（印度），10 月 19 日（ANI）：微软警告说，公司内部部署的人工智能 (AI) 代理即使没有受到黑客的攻击，也可能会带来重大的内部安全风险，并呼吁随着自主人工智能系统在组织中的使用不断增长，持续监控自主人工智能系统。
微软安全执行副总裁 Hayete Gallot 在周一发表的题为“保护内部人士”的博客文章中表示，组织传统上关注外部网络威胁，同时对部署在自己系统中的人工智能代理给予隐性信任。
另请阅读 |唐纳德·特朗普敦促法国“关闭边境”，因为暴力冲突导致宵禁和大规模逮捕。
“特工是不可预测的。他们会随着环境的变化而适应，他们可能不会按预期行事，他们会与其他特工合作和密谋以实现他们的目标，而不必变得脆弱，”歌利亚说。
微软警告称，人工智能客户越来越多地访问该公司的敏感数据、工具和系统，使他们能够在关键业务流程中做出决策并采取行动。
另请阅读 |苏拉夫·达斯 (Sourav Das) 和阿舒托什·兰卡 (Ashutosh Ranka) 没有休息：RJD 领导人又被司法拘留两天。
该公司将这些自主系统描述为“内部代理”，强调了它们在组织中日益重要的作用所带来的安全风险。
“这些代理通常享有很高的特权，可以访问数据、工具和系统，并且可以在关键流程中采取行动并做出决策，”歌利亚说。 “他们已成为该组织的积极参与者。”
这一警告是在公司越来越多地使用人工智能代理来自动化业务流程和决策之际发出的，引发了人们对组织如何对能够自主运行的系统进行监督的担忧。
微软表示，保护这些客户的安全需要对身份、权限、数据、网络、云基础设施和操作环境进行持续监督。
“必须持续监控和保护这些客户，”歌利亚说。 “我们需要实时了解客户在做什么以及这些行为造成的风险，并且我们需要调整他们采取相应行动的能力。”
为了应对这些风险，微软强调了 7 月份宣布的 Project Perception 计划，该计划使用基于人工智能的安全系统来帮助组织检测和应对网络威胁。
该公司表示，同样的技术可以用于通过所谓的“监护人代理”来监督内部人工智能代理，这些代理监视他们的行为并在风险增加时进行干预。
微软还强调人工智能模型决策方式需要更大的透明度，认为安全系统不仅必须了解代理在做什么，还必须了解他们为什么要采取某些行动。
“模型透明度不会取代遏制，”歌利亚说。 “这将使遏制措施变得更智能、更强大。” （那个我）
（以上报道已由ANI工作人员核实和撰写。ANI是南亚领先的多媒体通讯社，在印度、南亚和世界各地设有100多个分社。ANI提供印度和世界各地的政治、时事、体育、健康和健身、娱乐和新闻的最新新闻。以上帖子中出现的观点并不反映最新的观点）
