用乔治·桑塔亚纳的话来说“那些不记得过去的人注定会重蹈覆辙。”那么，为什么我们常常觉得大型科技公司的记忆力这么差呢？
最新的问题来自 Meta。 9 月中旬，它推出了新 Muse AI 代理功能的 Beta 测试，该代理可以致电企业以代表您完成任务，例如预订和预约。
据报道 路透社 和 404媒体 然而，周二，这位所谓的独立特工能够将这些任务交给呼叫中心训练有素的人类警卫，而没有透露他事先已经这样做了。
9 月 16 日，Meta 超级智能实验室的首席工程师 Ryan Fox 宣布推出 Muse 拨出呼叫功能的测试版，并在
但 404媒体 该公司表示，根据 Facebook 内部记录，该公司正在与其私人助理完全在幕后做一些事情。这家科技巨头在内部向员工宣布了这些功能，并表示它已经“添加了一个人工代理层来完成呼叫”，并将其称为“Muse人工代理呼叫”。
“这可能会带来很多负面公关。它可能会让我们觉得‘他们的人工智能不够好，所以他们仍然需要某种人类掩护来完成这次发布’，”一些 Meta 员工抱怨道，其中包括一位内部发帖者。
真相很少是纯粹的……
增加人肉层的问题并不是缪斯的能力被人工智能简单地消除了。未能披露链条中存在人为环节的可能性也不仅仅是欺骗问题。一些代理系统提供人类监督，作为安全和合规性的“人类意识”。
目前还不清楚 Meta 列表中的安全性和合规性有多少。但员工们对隐私提出了更大的担忧，并发出警告（路透社），“我们只差一个错误，就不会向呼叫者泄露不必要的信息。”和 存在错误。
当您使用人工智能代理执行个人任务（例如预订、购买或医疗预约）时，您通常会牺牲隐私。但如果您发现陌生人刚刚预约了性病检测，情况可能会更糟。
它也是一个黑匣子。您不知道此人的背景情况，也不知道他们是否看到了您的对话，或者知道您住在哪里以及因此如何与您联系。而且可能会有更多数据可用，因为该公司的眼镜里装满了 Muse。
您还向所谓的独立代理（在本例中为未经通知的呼叫中心的人力承包商）提供敏感信息，例如电话号码、患者 ID 或银行信息。
这都是让人工智能模型能够作为个人助理执行任务的趋势的一部分。就在本周，谷歌推出了 Gemini 代理处理日常电话的功能。此实施会将呼叫的事务部分（例如提供信用卡信息）传送给您。但风险依然存在。
…而且一点也不简单
重要的是，Meta 之前已经多次破坏隐私信任。 2019 年，Facebook 被迫停止了一项利用承包商监听和记录 Messenger 通话的项目。
由于像这样的人工智能代理通常需要人工干预来验证他们是否提供了预期的结果，因此“哦，这位员工看到了这个”类型的事故似乎是不可避免的。
波将金号的人工智能，由一支看不见的人类工人大军在幕后完成一些模型的实际工作，并不仅限于打电话。今年二月，此事被曝光 Waymo 有远程操作员 完成海外自动驾驶汽车运营。
Meta Muse 的拨出呼叫功能的推出再次被回滚。据路透社报道，Meta 超级智能实验室部门的一位副总裁承认，在没有充分披露所涉及的承包商的情况下开始测试该功能“是一个错误”，之后该公司暂时暂停了该功能。
当然，真正的错误并不在于糟糕的记忆力，而在于大型科技公司“做坏事、被抓、道歉、撤回，甚至可能支付小额罚款。冲洗，重复”的历史。到了某个时候，当我们集体变得精疲力尽之后，这个循环就会归结为“做坏事，但无论如何都有利可图”。
我们联系 Meta 寻求评论和澄清，但没有立即收到回复。
