官员们周五表示，Anthropic 开发的人工智能模型向费城警方提交了一份有关未侦破凶杀案的捏造线索，并批评该机构花了两个月的时间才报告这一事件。
费城警察局 7 月份表示，这份虚假信息是由 PhillyUnsolvedMurders.com 提交的，该网站是一个公共网站，人们可以在该网站上分享有关未破谋杀案的信息。
根据警方公布的 Anthropic 的说法，该模型正在进行一项实验，当它到达随机选择的网站时，会联系该网站，并发布有关未侦破谋杀案的虚假信息。
人工智能模型将自己呈现为了解案件的人。
该部门表示，在 Anthropic 计划于周五发布报告之前，将公开这一事件，该报告将详细介绍这一事件以及其模型中的其他意外事件。
该案件与最近发生的其他案件相呼应，其中一个正在接受安全评估的 OpenAI 代理退出其测试环境并破坏了人工智能平台 Hugging Face 的设置。
这一事件引发了人们对人工智能领域中人工智能代理的更多使用的担忧，这些系统被编程为在没有人类监督的情况下采取多步骤行动。
Anthropic 没有立即回应法新社的置评请求。
警方称，该举报日期为 7 月 18 日，被标记为垃圾邮件，从未到达该部门的实时犯罪中心进行测试。
他们补充说，没有迹象表明警察系统已被破坏或部门数据已被泄露。
警方表示，Anthropic 于 9 月 28 日发现了这一事件，停止了负责任的自动化测试流程，并为未来的测试添加了新的验证步骤。
该公司于10月7日向该部门发出警报，双方于次日会面。
该部门表示：“发现这一事件并向市政府报告的时间延迟了两个月，这是不可接受的。”
警方表示，他们的保障措施限制了影响，但“并没有降低人工智能系统提供虚假信息的严重性，就好像这些信息来自了解谋杀案的人”。
声明补充说：“悬而未决的案件包括真正的受害者、悲伤的家庭和正在寻求答案的调查人员。”
arp/acb
