去年春天，我们中的一个人接到了一位老朋友的电话。这个故事很熟悉：两名医生、一台核磁共振成像仪、一个在线人工智能工具、一堆论文——还有一个令人担忧的问题。 “一切都在告诉我一些不同的事情。人工智能说我可能需要手术。我该怎么办？”
我们相信，对于这个非常常见的难题，每个人都有一个关键答案：“什么对你来说最重要？”
一阵长长的停顿。
这种暂停是现代医疗保健中最重要的时刻之一——这是人工智能无法解决的问题。
在我们作为临床医生和研究人员的职业生涯中，我们多次清楚地发现，医学证据并不能为许多常见病症提供“正确”答案。生物学常常很接近。决定一个决定成功与否的，是它是否适合做选择的人。
一些背痛患者希望快速恢复体力要求较高的工作，即使需要手术。其他人则宁愿不惜一切代价避免手术，即使恢复需要更长的时间。扫描结果可能是相同的。扫描后没有生命。
随着人工智能深入到日常医疗决策中，这种智能变得越来越重要。
在我们对人工智能和临床决策的研究中，我们研究了当系统经过训练以改善临床结果但忽视人类价值观时会发生什么。用简单的英语来说，今天的人工智能非常擅长告诉你什么通常对像你这样具有相似人口统计数据和病史的人有效。它不太能够理解你想要保护、避免或优先考虑的内容。
这很重要，因为最常见和最昂贵的临床结果并不纯粹是生物学的。患有低风险前列腺癌的男性应该选择手术、放疗还是仔细观察？房颤患者是否应该接受手术或药物治疗？患有慢性膝盖或背部疼痛的患者现在应该接受手术吗？还是应该尝试几个月的物理治疗，看看是否可以避免手术？
在这些情况下，选项之间的临床差异通常很小或不确定。最大的区别在于治疗是否符合患者的目标：对风险的承受能力、对康复的渴望、坚持长期治疗的能力，或者他们想要过什么样的生活。
人工智能系统可以计算概率。他们无法确定这些概率对特定人意味着什么。
在某些情况下，人工智能可能比任何一位医生了解更多的药物。它可以在几秒钟内整合数百万份科学文档、临床研究和患者记录。然而它对坐在它对面的人知之甚少。人工智能不知道患者的目标、恐惧、义务、风险承受能力或个人对良好决策的定义。因为它对病人或医生知之甚少，所以对他们之间的对话知之甚少——在对话中，事实、价值观和信念汇集在一起，为特定的人做出正确的决定。
第二个病人的故事让我们明白了这一点。在基于人工智能的症状检查器标记出心律异常并“选择”侵入性手术后，这位退休教师被转诊。病人很害怕，并相信只有一条正确的道路。在我们交谈的过程中，很明显，最重要的是避免长时间的康复，并保持足够的健康，以便能够去看望孙子。
药物治疗和监测——不那么引人注目，但有更好的证据支持——更适合这些目标。人工智能并没有错。我只是不知道出了什么事。
这个盲点不正常。美国约四分之一的医疗保健支出是通过患者偏好对结果产生有意义影响的决策来进行的。当这些偏好被人或机制忽视时，护理就会被错误设计。这意味着不必要的手术、依从性差、后悔以及在没有最佳健康的情况下增加成本。
当应用程序、门户网站或“智能”工具建议采取行动时，消费者应该做什么？
从三个问题开始。
第一：“对谁更好？”如果某个工具说它更好，请询问它是否平均更好 – 或者对于与您优先考虑的人更好。
第二：“这个系统不知道我什么？”
AI可以查看实验室值和成像结果。它看不到你的工作、你的家庭责任、你的恐惧或你想要收回的东西。
第三：“如果我等待或做出不同的选择，会发生什么？”
许多重要的医疗决定都不是紧急情况。当选择很接近时，花时间反思往往是良好照顾的一部分。
人工智能正在成为医学领域的强大合作伙伴。这将有助于澄清选项、揭示证据并减少混乱。但它应该为人类决策提供信息，而不是取代它们。
人工智能可能比任何医生都了解更多的药物。
它对病人知之甚少。
至少它知道他们之间的对话。
任何算法都缺少您的医疗保健中最重要的变量。你就是那个。
詹姆斯·N·韦恩斯坦 (James N. Weinstein) 是一名外科医生，也是达特茅斯健康公司 (Dartmouth Health) 的前首席执行官。他是西北大学凯洛格管理学院的医学教授，也是开发人工智能系统的微软健康未来全球负责人。 Ogan Voice 是德克萨斯大学阿灵顿分校的一名医生和助理教授，他在那里研究人工智能、因果推理和患者决策。
