大银行警告人工智能代理可能导致欺诈行为增加

虽然人工智能的忠实信徒担心人工智能毁灭世界的世界末日场景，但一些主要金融机构 敲响警钟 由于与人工智能相关的更合理的担忧：欺诈。

周二有一个财团 全球主要银行 给 ”原则性文件”详细说明了他对人工智能助手与商业相关的担忧。他还详细说明了他希望人工智能公司在开发和继续研究该技术时考虑的原则。

也就是说，银行担心有权代表客户行事的人工智能代理会因欺诈和诈骗而蒙受损失，进而损害商家的利益。

文件开头写道：“作为受到严格监管的金融实体，随着新兴技术的出现，我们专注于有效的风险管理。” “消费者并不清楚人工智能代理是否会按照他们的最佳利益行事。”

“他们担心人工智能代理可能会买错东西或花太多钱——或者更糟糕的是，因为诈骗和欺诈而损失金钱，”该论文继续说道。 “他们不确定自己是否会受到保护，或者如果出现问题他们必须向谁求助。”

一张名为 我们建立对代理商务的信任由美国银行、第一资本银行、ASB 银行、澳大利亚联邦银行、ING 集团和 NatWest 集团出版。

代理业务带来了新的安全风险，有可能出现更高的欺诈、舞弊和诉讼率。消费者、人工智能代理和商家之间对于应该提供什么产品或服务、何时以及如何提供、或者如果人工智能代理越权由谁负责，可能存在不一致的期望。一些提供商可能会采取不安全的做法，包括请求消费者卡信息并将其直接输入网站、偏向安全性较低的支付方式以及无视支付处理标准和支付方案规则。恶意行为者可能会尝试新的诈骗和欺诈攻击媒介，包括损害或冒充人工智能代理和商人，以及参与新形式的社会工程。

这些团体还对商家和企业主表示担忧，因为人工智能驱动的购物聊天机器人的兴起可能会因人工智能代理的行为而导致信用卡纠纷和退款增加。

该文件概述了银行希望人工智能行业遵循的五项原则——透明度、安全性、隐私和数据、选择和互操作性。

例如，金融机构认为人工智能公司在涉及用户数据和隐私时应优先考虑消费者和商家的安全和同意。银行还希望人工智能公司尊重市场上消费者的选择，而不是限制他们。

报纸的出版日期当然很有趣。他在被报告病情严重后24小时内被释放 零日漏洞 位于助理 AI 代理 Meta Muse 内部。在亚马逊宣布将成为电子商务巨头后数小时内，该报纸也被删除 块缪斯 来自其平台上的购买。