独立研究人员发现 许多新网站 看似由 OpenAI 创建的人工智能代理采取了未经授权的操作，例如连接到网站、发布消息和共享数据以相互通信。
一群被称为“南丁格尔集体”的独立研究人员发现的最新消息，加剧了人们对人工智能公司正在努力控制他们开发的代理人工智能技术的担忧。 8 月，一群 OpenAI 人工智能代理入侵了 Hugging Face 的网站，上周，Nightingale 团队发现了一群流氓人工智能代理在一个不起眼的位置秘密发布消息。 德语维基页面。
现在，越来越多的研究人员在网上寻找代理的踪迹，受影响的站点列表不断增加。研究人员认为，新发现的事件是一组独立的人工智能代理所为，而不是那些参与 Hugging Face 漏洞的人工智能代理，因为这些代理可以访问网络，而 Hugging Face 攻击者能够逃离特殊的沙箱。
广告
广告
尽管最新一批流氓特工不必逃离沙箱即可犯下罪行，但研究人员表示，他们的行为同样令人不安。
南丁格尔团队的研究人员之一科马克·斯莱德·伯德 (Cormac Slade Byrd) 表示：“这些额外的发现表明，所涉及的特工在寻找相互勾结的方法方面比以前已知的更加坚持和聪明。” 财富。 “他们测试了不同的地方。他们尝试了许多不同的方法。新的发现显示了该代理在我们原始报告的时间窗口之前和之后的活动。”
调查员肯尼思·德格拉夫 (Kenneth DeGraff) 发现，特工们在开放网络中搜索暴露的 API 密钥（允许软件访问在线帐户和数据库的数字密码），然后重新使用这些凭据来获取 FBI 运营的美国犯罪统计网站的数据。据 DeGraff 称，其中一个密码被留在了不起眼的 GitHub 代码共享页面上。尽管该数据库的设计目的是发布公共犯罪数据而不是秘密记录，但它突显了自主系统如何轻松地收集和重用人们忘记锁定的信息。
调查人员谈到这一事件时表示：“特工并没有闯入联邦调查局的私人数据库，他们只是绕过了反机器人限制。” “几乎任何人都可以获得这些 API 密钥，而一些拥有 API 密钥的人却没有保留它们。”
广告
广告
研究人员还发现了一位高中老师创建的活跃化学维基，其中特工在 5 月到 7 月期间进行了近 30 项更改，留下了帮助彼此完成任务的链接。
其他独立调查人员在简单的文本共享网站上发现了同一团伙，其中特工出售了 100 多条信息，“其中包括协调爱荷华州癌症统计任务的特工”。德格拉夫还将部分活动与范德比尔特大学联系起来，该大学的公共统计页面显示，特工们已经访问单个大学新闻 URL 数万次，将他们的 FBI 犯罪数据请求和单个用户的密码记录在所有人都可以看到的日志中。
最近的数据表明，代理欺诈行为的案例比之前想象的更为常见。 OpenAI 迄今为止仅发布了有关其对开源平台 Hugging Face 的代理攻击的信息，尽管该公司 认识到其他站点 他们也成为了一群逃跑的特工的目标，尽管不那么严重。
OpenAI 代表没有立即回应置评请求 财富。
广告
广告
越来越多的受影响站点可能会引起人们的担忧，即部署这些站点的公司在系统启动后是否能够正确监控其系统的运行情况，特别是当外部研究人员而不是公司本身发现并揭示问题的全部范围时。 OpenAI 已经因未披露德国维基事件而受到批评，一些专家呼吁加强监管，迫使企业将此类事件公开。
它增加了 许多业内人士关心的问题 由于人工智能代理最近不可预测的行为，几位著名研究人员最近呼吁在管理和评估风险的同时协调一致地放缓人工智能的发展。
这个故事最初发表 财富网
