对于三名登山者来说，使用人工智能建议是一个“重大错误”，他们计划在加利福尼亚州沙斯塔山进行八小时的攀登，结果变成了为期三天的艰苦考验。经过多日的复杂行动，两名登山者最终获救。在受伤和两架航空运输直升机失灵之后
周日凌晨 3:00 出发。 16小时后，这群人到达了山顶，但其中一人摔伤了腿，因此迷路了。救援人员周一安全疏散了这群人。
徒步旅行者向救援人员承认，他们使用了多种科技工具来计划行程，包括 YouTube、户外健身和娱乐应用 AllTrails 以及 Google Gemini AI。过度依赖双子座是一个很大的错误。锡斯基尤县治安官办公室 在脸书帖子中说道。。
帖子的部分内容写道：“这些人告诉现场的副警长，他们严重依赖谷歌的 Gemini AI 来提供路线信息以及旅行准备工作。” “这是一个严重的错误。因为双子座建议他们携带的食物和水要少于团队所需的数量。特别是当计划的 8 小时攀登变成了多天的磨难时。”
治安官办公室不断提醒人们，“不要仅仅依靠人工智能来计划你的行程。”
美国林业局和锡斯基尤县治安官办公室的代表没有立即回应置评请求。
这次旅行还有其他问题。徒步旅行者报告说，他们的手机电池没电了，备用电池也无法工作。如果没有离线地图，迷茫的队伍也失去了下降的踪迹，进一步反映出缺乏适当的装备。受伤的徒步旅行者不得不在完全黑暗的情况下行走，没有头灯以节省电池电量。
谷歌的回应
谷歌代表在电话中告诉 CNET，其信任和安全团队正在调查 Gemini 提出的徒步建议。该公司无法复制登山者收到的回复。代表们承认双子座会犯错误。并表示使用它的人应该经常检查 Gemini 引用的来源。如果他们不确定结果
虽然徒步旅行者没有具体说明双子座建议带什么食物和饮料或者带多少，但治安部门已经专门解决了这个问题。
我试图鼓励双子座给出登山者所说的他收到的那种回应。但并不成功 当我问推荐什么食物用于攀爬时，双子座推荐碳水化合物、脂肪和蛋白质的混合物，尽管我会要求低脂肪的解决方案。但双子座仍然表示，徒步旅行者经常携带高钠、高脂肪和高热量的食物，如奶酪和腌肉。直到我明确表示我预计我的角色的长途跋涉会持续多长时间之前，它才提出具体金额。
人工智能不是可靠的来源。
人工智能经常忽略重要的细节。这使得用户对现实世界的情况毫无准备。有时负面影响很小。去年年底，CNET 编辑 Corin Cesaric-Epple 使用 ChatGPT 准备了一周的饭菜。并多次指出人工智能提供的食谱调味最少。但有时后果可能很严重。使用人工智能帮助提起法律案件的律师正在危及他们的职业生涯。其中一些人因工作失误而受到官方谴责。
下一代人工智能工具只是预测输入数据的模式。其中大部分来自未经验证的网络来源。因此，专家建议用户在信任人工智能生成的推荐之前独立验证它们。因为人工智能不吃东西，不遵守法律，也不爬山，所以它不是学习如何做这些事情的最佳场所。
