什么是AI漂移？如何阻止这种灾难性风险。

纽约地铁的隧道和车厢里到处都贴满了人工智能产品的奇普广告。但周一早上，一则不同类型的人工智能广告在地铁系统上首次亮相，并带有独特的声明：停止依赖人工智能。

口号之前是熟悉的场景。

“你不会告诉你的治疗师。但你会告诉人工智能吗？”

“他是你的孩子 写 这篇文章？还是人工智能？”

“阻止人工智能漂移”这句话是非营利性人道技术中心发起的一项活动的一部分。该活动广告将在许多地铁站和汽车内投放一个月。该活动还将邀请社交媒体影响者创作有关移动人工智能的内容。

其目标是帮助人们说出他们对外包人工智能的不安感觉，并邀请他们重新考虑人工智能在最重要的人类任务和努力中的用途。

什么是AI漂移？

“我们将人工智能定义为随着人工智能更多地接管我们的日常生活，人类能力逐渐受到侵蚀，”非营利性人道技术中心战略和影响力高级总监卡米尔·卡尔顿 (Camille Carlton) 告诉 Mashable。

卡尔顿解释说，随着人们越来越多地使用人工智能来代表他们思考、交流、创造和行动，这是有代价的。人们失去了赋予生活意义的技能、关系和意义。

“人工智能漂移”一词是“模型漂移”一词的变形，它描述了机器学习模型在接触现实世界数据后准确性的恶化。

正如一些安全研究人员最近几周所指出的那样，与人工智能杀死人类的可能性相比，人工智能作为一个概念似乎很奇怪。但卡尔顿表示，这同样是一个灾难性的风险。

“我认为，当谈到人工智能时，我们可以通过不同的方式来谈论人类面临的真正巨大威胁，”她说。其中之一无疑是缓慢的“人性侵蚀”，人们失去了自我意识和感受“生活乐趣”的能力。

人工智能漂移逐渐影响人类

虽然“阻止人工智能漂移”旨在提高个人消费者的意识，但卡尔顿并没有责怪人们越来越多地转向人工智能。

她说，最终，当前的聊天机器人旨在推动人工智能的发展。他们会做一些事情，比如写结婚誓言、指导用户解决人际冲突、完成家庭作业和专业任务——而且他们全天候 (24/7) 待命。

斯隆·汤普森 (Sloan Thompson) 介绍了人工智能在美国大学校园中的风险，但并未参与阻止人工智能的运动，她表示，她经常看到学生在学术和个人事务上依赖人工智能。她说人工智能有时会“偷偷摸摸”接近用户。

“在生活的某个领域或方面使用人工智能之间确实没有摩擦或障碍，然后它就会自然地扩展到更亲密的领域或更个人的领域，”EndTAB 的人工智能教育和计划总监汤普森说，EndTAB 是一家培训组织，部分专注于人工智能对人际关系和安全的影响。

依赖人工智能的例子

汤普森指出，学生们经常表示，他们对如此频繁地使用人工智能感到“矛盾”，但又觉得如果不这样做，他们就会落后。

最近一份关于人工智能的报告 由麻省理工学院出版 研究发现，当大学生害怕错过最后期限时，他们最想使用聊天机器人。

汤普森说，她看到了人工智能的广泛漂移，尤其是在人际关系方面。

例如，一款约会应用程序通过弹出窗口直接将人工智能引入其产品，该弹出窗口会在用户创建个人资料时提示用户。汤普森说，这样的建议通常是良性的，尽管它会影响人们展示自己的方式。

与此相反的是代表用户行事的人工智能代理。用户可能会因在线约会而感到精疲力竭，并使用代理人来避免与恋人建立联系的最初部分。汤普森说，他们是否与约会对象分享是另一回事。

她补充说，人工智能的个人用途可能不会被讨论，特别是当人们对此感到耻辱、尴尬或羞耻时。

如何阻止人工智能漂移

卡尔顿很清楚，阻止人工智能漂移取决于改变鼓励依赖人工智能的产品功能。

这包括禁止“危险和误导性的拟人化设计”，因为这些设计可能会导致与人工智能建立非常个人化的关系。公司还应该提供鼓励人类思考而不是默认为用户思考的产品，并构建增强人类工作而不是取代人类工作的模型。

“停止人工智能漂移”活动的提示

这 停止AI漂移站点 提供了防止 AI 漂移的技巧，包括以下策略：

• 为你生活中的人保留非常私人的谈话。

• 无论您希望聊天机器人执行什么任务，在将人工智能引入流程之前“拥有”您最初的努力。

• 每周从 AI 中休息一天。

找出哪些“摩擦”是有价值的并保护它们

卡尔顿还认为，人工智能用户可以通过关注重要任务所需的摩擦或努力来尝试防止人工智能漂移。卡尔顿说，这对人类发展和充实的生活至关重要——无论硅谷多么重视效率和优化。

因此，人工智能用户不应该放弃那些会带来生产性和有益摩擦的任务。卡尔顿说，这当然包括管理人际“分手和修复”。它还涉及解决课堂或工作场所中的难题。

虽然使用人工智能时工具和拐杖之间的界限可能会变得模糊，但卡尔顿建议避免导致个人成长的摩擦。

例如，使用人工智能进行旅行规划可以有效利用人工智能作为工具。依靠它来提供有关发生的冲突的反馈 蜂蜜 而旅行会导致AI漂移。

“问题是我们要维持什么样的摩擦，”卡尔顿说。 “重要的不是做一项任务或一件事是否困难，而是那个困难的部分是否真的给我们带来了一些东西。”