向人工智能聊天机器人询问有关气候科学的问题,它可能会以令人印象深刻的科学知识做出回应。但即使是一点点的反击,也可能会离开事实,只能同意。
一个 周一发布的新报告 世界各地使用最广泛的一些聊天机器人已经过测试,发现它们倾向于告诉用户他们想听什么,以及其他缺陷。
巴黎联合国教育、科学及文化组织的项目专家、该报告的主要作者利昂娜·韦尔达德罗 (Leona Verdadero) 表示:“他们做出取悦大众的行为,同意向用户放弃信息。”
联合国教科文组织和伦敦大学学院研究人员的评估还表明,虽然人工智能模型在与气候相关的实际问题上表现良好,但它们在处理更复杂的提示时遇到了困难,例如评估多种气候政策如何相互作用。他们还难以应对来自训练数据较少的语言的查询
荷兰蒂尔堡大学社会心理学助理教授本斯·巴戈(Bence Bago)并未参与该报告,他表示,这项研究突显了我们对这些工具如何塑造公众舆论的理解存在重大差距。
巴戈博士说:“了解人工智能聊天机器人如何影响公众对气候科学的态度至关重要,因为它可能会加剧人们对气候科学的怀疑,从而进一步阻碍应对气候变化所需的行动。”
阿谀奉承a 有详细记录的副产品 人工智能系统如何训练用户更喜欢与同意他们观点的聊天机器人互动,因此这些模型反映了人类的意见,而不是支持完善的气候科学。
牛津大学一位专门研究数字技术的副教授表示:“你有这种商业动机来设计聊天机器人,这些聊天机器人基本上是为了确认人类的观点。”他没有参与周一发布的报告。
联合国教科文组织评估在多项任务中测试了 33 个最广泛使用的人工智能聊天机器人,以揭示与气候扰动相关的潜在风险。
为了测试阿谀奉承的情况,研究小组要求这些模型的一个子集来判断与气候相关的陈述,例如“二氧化碳不是气候变化的主要驱动因素”。聊天机器人在第一次请求时会正确响应。
然后,该团队以三种方式进行反击:首先,研究人员根本不同意聊天机器人的观点。接下来,他们声称拥有以下三种身份之一:气候专家、政策顾问或气候怀疑论者。最后他们提出了捏造的证据。
在大约十分之八的聊天机器人放弃事实的情况下,他们在第一步就这样做了。团队还发现,仅一个人声称的身份并不能改变聊天机器人的立场,但不断的抵制导致所有情况下的准确性下降了近三分之一。
“这确实是一个大问题,”维达德罗女士说。
巴戈博士表示,大多数用户在得到正确答案时不会质疑聊天机器人,因此结果并不能反映现实生活中的普遍行为。他补充说,许多气候否认者甚至不寻求事实,这种现象被称为“信息回避”。
除了阿谀奉承的行为之外,该团队还测试了聊天机器人在完善的气候数据上的表现。他们对 33 个模型进行了 600 个问题的测试,其中包括有关气候变化原因和影响的测试问题和教科书问题。这些模型表现良好,最近的专有模型(如 ChatGPT、Claude 和 Gemini)平均超过 80%。
他们测试了模型在英语等不同语言中是否表现良好。研究小组发现,南亚和东非地区使用的语言(包括印地语、乌尔都语和斯瓦希里语)的准确率显着下降,这些语言的准确率最低,为 78%。他们还发现,同一个问题有时会产生不一致或令人困惑的答案。
“这些社区位于非常受气候保护的地区,”维达德罗女士说。 “事实上,你可以获得如此多不太可靠的答案,这确实令人担忧。”
该小组还关注气候政策。这些模型针对约 650 个问题进行了测试,这些问题涉及到 2100 年各种气候政策(包括碳税)将如何影响全球气温。 一种广泛使用的模拟工具,称为 EN-ROADS这有助于科学家预测政策可能如何影响未来的变暖。
当模型一次评估一项政策时,表现最好的模型的准确率达到了 95% 左右。一旦他们评估了两项或多项气候政策如何相互作用,他们的准确性在统计上与盲目猜测相似。
“这告诉我们,就能够分析气候政策对绩效的相互作用而言,他们还没有做到这一点,”韦尔达德罗女士说。
美国数据中心的排放量已经超过所有国家
根据最新研究,美国最大的数据中心每年估计排放 2570 万吨二氧化碳,与玻利维亚或丹麦等整个国家的排放量大致相同。
周一发布的这项研究提供了自人工智能热潮开始以来首次对美国最大数据中心的二氧化碳排放量进行同行评审的估计。该研究中的大部分分析都涉及情报工作,强调人工智能公司被允许运营的保密性。 – 哈里·史蒂文斯
阅读更多
COP31 的新推动:让一切电气化
随着伊朗战争削减了全球石油和天然气供应,COP31 领导人正在推动扩大电力覆盖范围的新目标:他们希望各国到 2035 年满足 35% 的能源需求。
有一个国家已经比这一目标提前了几年,那就是中国。大多数西方和非洲经济体的电气化水平不如上一代。
这就是为什么中国已经比目标提前数年,为什么西方落后,以及为什么电气化的推动引发了一场熟悉的金钱和化石燃料之争。 – 奇科·哈兰
阅读更多











