人工智能不会来到一个可以接收信号的世界。相反，世界正在进入一个在过去二十年里系统性地拆除其基础的世界。这将使我们能够负责任地使用如此强大的技术。机构权力分享真相，数据的完整性遭到破坏。我们正在现代记忆中最破碎的信任格局上构建人类历史上最复杂的认知技术。
如果你想设计人工智能发生的最糟糕的时刻，你可以创建这样的时刻。
从后真相到后信任
十年前我们担心生活在后真相世界。牛津词典精选“后真相”是2016年年度词汇，其定义是这样一种情况，即客观事实在塑造公众舆论方面的影响力不如诉诸个人情感和信仰的影响力。发布真相 描述一个事实仍然存在的世界。但它常常被情感故事的讲述所掩盖。
我们现在所经历的更加深刻。我将其称为“后信任时代”，在这个世界中，我们建立信任的机制已经崩溃。不仅仅是有时情绪胜过事实。这是因为我们首先失去了决定什么才是事实的共同基础。
看看过去二十年我们的数据生态系统发生了什么。我们已经摆脱了编辑操纵真相的世界。由平面媒体印刷并由少数知名中介机构出版。到一个每个人都可以出版、放大、歪曲或捏造它的世界。信息爆炸，社交媒体分散受众。算法开始针对点击进行优化。参与和超越理性的感觉激励从精确转向兴趣：普遍性而不是真理。因细微差别而怨恨 速度而不是深思熟虑
这些数字几乎讲述了自己的故事。 8 分（满分 10 分） 人们主要通过社交源、搜索引擎等算法来获取新闻。和数据收集者 他们有效地将数据外包给他们不完全理解或信任的系统。在美国，人们对联邦政府的信任度很高 跌倒了 从 20 世纪 50 年代末的 70% 以上，到今天的不到 20%，人们对大众媒体的信任度直线下降：只有不到三分之一的美国人表达了“很少的意见”。公平金额”信托、宗教机构、金融系统、医疗保健组织。甚至科学本身也看到了信任。 侵蚀。
后真相解释了人们如何衡量事实和感受的扭曲。信任帖子描述了更深层次的破裂：失去了确定真实内容的共享流程。
当第一批照片于 1830 年代出现时，人们对它们的诚实感到惊讶。近两个世纪以来，眼见为实。图片并不完美，但它是证据。
2023 年初，人工智能生成的弗朗西斯教皇穿着时尚白色羽绒服的图像在社交媒体平台上传播。这很有趣，因为它的范围很窄。在熟悉与意外之间，照片的风格、姿势和灯光借鉴了数十年真实摄影的可信度。许多人在有时间质疑之前就接受了它。
两年之内，人工智能生成的图像、音频和视频已经变得无处不在，令人信服的是，这不是一个问题。不再是“你能认出假货吗？”但是“你能相信你所看到的一切吗？”
大规模创造可靠“证据”的能力现已到来。正如我们的数据生态系统最为分散一样。 研究 杜克大学和纽约大学的研究表明，在社交媒体上让人们接触对立的政治观点可能会加剧而不是减少两极分化。地标 学习 科学表明，假新闻比可靠的在线新闻传播得更快、更广泛。神经影像学研究表明，当人们遇到挑战其政治信仰的信息时，与负面情绪相关的大脑区域就会亮起。而确认信息会激活奖励途径。我们不仅对事实存在分歧。我们天生会通过完全不同的认知渠道来处理确认和否定信息。
这就是人工智能诞生的基础：一个数据丰富的世界。但信任却很少。共识现实被打破的地方。创造共同现实的机制已经崩溃。
另一种智力
在这个破碎的基质中出现了一些真正新的东西。它不仅仅是另一种工具，而且是历史上第一项以感知为主要功能的技术。
过去的技术扩展了我们的能力，同时仍处于人类思想的范围之内。印刷机放大了我们选择打印的文字。电力改变了我们决定控制的能量。内燃机已经取代了我们使用的肌肉力量。计算机执行我们编程的计算。互联网传播我们所写的信息。
人工智能打破了这种模式。这不再只是一次手术了。它会产生争论。综合信息、提出建议并创造出在人类层面上与其他人的想法相似的作品。一个模型就可以写一篇文章。法律记录摘要 翻译医疗记录、起草法规、规划营销活动。并且可以作曲
大多数这些系统的核心是一个通过预测接下来会发生什么、序列中的单词、像素或标记来学习的架构。这些模型并不像人类理解的那样了解“现实”。他们发现收到的任何数据中的模式、频率和关系。
这就是时机变得重要的地方。收到的信息是在后信任世界中创建的。
人工智能接受新闻报道训练。社交媒体为数字书籍提供有偏见的档案极地辩论、阴谋论、科学进步。而我们的错误信息不仅吸收了我们的知识。但它也吸收了我们的扭曲。它不仅了解我们的事实。还了解我们对这些事实的分歧。
结果是一面奇怪的镜子：人工智能将我们反射到我们自己身上。它通过统计模式折射并通过计算进行缩放。它给出的答案是我们无法轻易验证的。它基于我们无法详细检查的训练数据。专为我们无法始终控制的目的而定制
当我们的社会信任基础设施面临压力时，新的认知基础设施正在出现。
摘自 信任代码 经蒂芙尼王星宇许可。
