- 一項新的研究表明，用於通過病理切片診斷癌症的人工智能係統並不對所有患者都同樣有效。其準確性因不同人群而異。
- 研究人員發現了這種偏見背後的三個關鍵原因。並創建一種新方法來顯著減少這些差異。
- 結果凸顯了為什麼醫療人工智能必須定期評估偏差。幫助確保癌症護理對每個人來說都是公平和可靠的。
癌症診斷的病理學和基礎
幾十年來，病理學一直是醫生診斷和治療癌症的核心。病理學家在顯微鏡下研究非常薄的人體組織碎片。尋找癌症存在的明顯跡象。如果是的話，癌症會是什麼類型和階段？
對於訓練有素的專業人員來說，檢查充滿紫色細胞的旋轉粉色組織樣本就像進行一項無名測試。這張幻燈片包含有關這種疾病的重要信息。但沒有任何線索表明患者是誰。
當人工智能看到的東西超出預期時
這種假設不適用於正在進入病理實驗室的人工智能係統。哈佛醫學院研究人員領導的一項新研究表明，人工智能病理模型可以直接從組織切片推斷人口統計詳細信息。這種意想不到的能力可能會導致不同患者群體的癌症診斷偏差。
在評估了幾種廣泛使用的旨在識別癌症的人工智能模型後，研究人員發現這些系統並非對所有患者都同樣有效。診斷準確性根據患者自我報告的種族、性別和年齡而有所不同。該團隊還揭示了造成這些差異的幾個原因。
為了解決這個問題，研究人員開發了一個名為 FAIR-Path 的框架，可以顯著減少他們測試的模型中的偏差。
資深作者 Kun-Hsing Yu 表示：“從病理幻燈片中讀取人口統計信息被認為是一種有用的工具，”英國醫學科學院生物醫學信息學副教授兼布萊根婦女醫院病理學助理教授 Blavatnik 說。對於人類病理學家來說，這是“不可能完成的任務” 因此，人工智能病理學中的這種偏見讓我們感到驚訝。
於強調，認識並糾正醫療人工智能中的偏見非常重要。這是因為它可以直接影響診斷的準確性和患者的治療結果。 FAIR-Path 的成功表明癌症病理學人工智能和其他醫療人工智能工具的公平性有所提高，可能不需要對現有系統進行重大改變。
這項工作部分得到了聯邦資金的支持，12 月 16 日發表在《Cell Reports Medicine》雜誌上。
測試癌症人工智能
Yu和他的同事檢查了目前正在開發的用於癌症診斷的四種常用病理學人工智能模型的偏差。這些深度學習系統在大量標記的病理切片上進行訓練。它使他們能夠學習生物模式並將這些知識應用於新樣本。
該團隊使用大型、多機構數據集評估了該模型，其中包括 20 種癌症類型的病理切片。
所有四種型號的性能差距仍然存在。人工智能係統對於基於種族、性別和年齡的某些人口群體的準確度較低。例如，這些模型很難區分非裔美國患者和男性患者的肺癌亞型。在對年輕患者的乳腺癌亞型進行分類時，它的準確性也有所下降。此外，該模型難以檢測某些人群中的乳腺癌、腎癌、甲狀腺癌和胃癌。總體而言，這些差異出現在大約 29% 的分析診斷任務中。
據余介紹，這些錯誤的發生是因為人工智能係統從組織圖像中提取了人口統計信息。然後，它在做出診斷決策時依賴於與這些人口統計相關的模式。
這個發現是出乎意料的。 “因為我們期望病理評估是客觀的，”於說，“在評估圖像時，我們不需要了解患者的人口統計數據來做出診斷。”
這導致研究人員提出一個重要問題：為什麼人工智能病理學不符合相同的客觀性標準？
為什麼人工智能病理學中會出現偏差？
該團隊確定了造成這種偏見的三個主要因素。
首先，訓練數據通常是不規則的。某些人群的組織樣本比其他人群更容易獲得。這會導致數據集不平衡。這使得人工智能模型更難正確診斷未正確代表的群體中的癌症。這包括按種族、年齡或性別定義的某些人群。
然而，於指出“問題比這要深得多”。在許多情況下，模型對於某些人口群體來說表現較差。儘管樣本量相似。
進一步的分析指出了疾病發病率的差異。有些癌症在某些人群中更常見。這使得人工智能模型對於這些群體來說特別準確。因此，同一模型可能難以診斷癌症不太常見的人群。
研究人員還發現，人工智能模型可以檢測不同人群之間細微的分子差異。例如，該系統可能會識別導致癌症的基因突變。並用作癌症分類的快捷方式這可能會降低這些突變不太常見的人群的準確性。
“我們發現，由於人工智能非常強大，它可以識別許多人類評估無法檢測到的模糊生物信號，”於說。
隨著時間的推移，這可能會導致人工智能模型關注與人口統計相關的信號，而不是疾病本身。這導致不同患者群體的診斷效率降低。
Yu 表示，總的來說，研究結果表明人工智能病理學的偏差不僅受到訓練數據的質量和平衡的影響。還有如何訓練模型來解釋他們所看到的內容。
減少偏見的新方法
在確定了偏見的來源後，研究人員開始努力糾正它。
他們開發了 FAIR-Path，這是一個基於現有機器學習方法（稱為比較學習）的框架。這種方法改變了人工智能訓練，使模型更加關注重要的差異，例如癌症類型之間的差異。同時減少對不太相關的差異的關注。包括人口特徵
在測試模型上使用 FAIR-Path 時，診斷差異減少了約 88%。
“我們證明，通過這個小小的修改，該模型可以學習強大的屬性，使其在不同人群中使用更加通用和公平，”Yu 說。
他補充說，結果令人鼓舞。因為它表明顯著減少偏差是可能的。儘管缺乏完全平衡或具有代表性的訓練數據集，但仍然如此。
展望未來，於和他的團隊正在與多個機構合作。在全球範圍內研究具有人口統計數據、臨床實踐和不同實驗室環境的地區的 AI 偏差病理學。他們還探討瞭如何在數據有限的情況下應用 FAIR-Path。另一個令人感興趣的領域是了解人工智能驅動的偏見如何導致醫療保健和患者結果的廣泛差異。
於說，最終目標是開發支持人類專家的病理人工智能係統。它為所有患者提供快速、準確和公平的診斷。
他說：“我認為，如果我們對如何設計人工智能係統更加了解和謹慎，我們就有希望創建適用於不同人群的模型。”
寫作、籌款、披露
該研究的其他作者包括 Shih-Yen Lin、Pei-Chen Tsai、Fang-Yi Su、Chun-Yen Chen、Fuchen Li、Junhan Zhao、Yuk Yeung Ho、Tsung-Lu Michael Lee、Elizabeth Healey、Po-Jen Lin、Ting-Wan Kao、Dmytro Vremenko、Thomas Roetzer-Pejrimovsky、Lynette Sholl、Deborah Dillon、Nancy U. Lin、David。 Meredith、Keith L. Ligon、Ying-Chun Lo、Nipon Chaisuriya、David J. Cook、Adelheide Wohrer、Jeffrey Meyerhardt、Shuji Okino、McLean P. Nasrallah、Jeffrey A. Golden、Sabina Signoretti 和 Jung-Sian Jiang。
資金由美國國立衛生研究院國家普通醫學研究所和國家心肺血液研究所（撥款 R35GM142879、R01HL174679）、國防部（同行評審癌症研究計劃職業發展獎 HT9425-231-0523）、美國癌症協會（研究學者撥款）提供RSG-24-1253761-01-ESED），谷歌研究學者獎，哈佛醫學院。台灣國家科學技術委員會院長創新獎（NSTC授予113-2917-I-006-009、112-2634-F-006-003、113-2321-B-006-023、114-2917-I-006-016）和新苗教育基金會的博士生獎學金。
Ligon 是 Travera、Bristol Myers Squibb、Servier、IntegraGen、LEK Consulting 和 Blaze Bioscience 的顧問；由特拉維拉資助；並獲得了百時美施貴寶的研究資助。 Lilly Vremenko 是 Vectorly 的聯合創始人和股東。
作者準備了一份初步手稿，並使用 ChatGPT 編輯選定的部分以提高可讀性。使用此工具後，作者根據需要審查和編輯了內容。並對發表的文章內容承擔全部責任
