隨著生成人工智能的日常生活，其在心理保健中的一種新興方面引發了有關患者專業和隱私的複雜問題。
許多公司，例如Blueprint和Heidi Health，已經開始提供AI促進的工具，旨在使治療師更有效地記錄會議和填寫行政文件。捕獲？通常要求提供者與客戶記錄所有會議。
如果治療師在某些情況下記錄這些對話是道德的，那麼在職業培訓和醫療法律工作之外，這很少是這樣做的。注意使用工具或“抄寫員”，使用AI來分析客戶與治療師的對話的內容，以生成治療師必須出於各種原因（包括保險付款和潛在質量審核）必須提交的文件。
研究人員說，同伴對18歲以下的青少年有危險
使用此類AI產品的臨床醫生說，他們合理化了繁瑣的任務，免費的時間不僅要專注於客戶的幫助，而且還要專注於自己的生活。
但是，一些專家說，這種AI產品具有不必要或道德的風險，例如未經客戶同意，將錄音被黑客入侵或用於形成公司的廣泛語言模型的可能性。如果在錄音機在場的情況下撤回治療的人，或者印像不拒絕其供應商的要求，他們也可能對治療師和客戶之間的關係產生負面影響。
“該行業跳過了一些武器，而沒有問這個問題：“這是個好主意嗎？ “”美國心理協會衛生保健創新辦公室首席主任Vaile Wright博士說。 “我們只是不知道這個問題的答案……我們的印像是我們忽略了它。”
撰寫臨床筆記的“恐懼”
心理學家Dre Hannah Weisman在西雅圖進行了半場療法的負責人，他於去年12月開始使用AI Scribe。除了他的實踐外，魏斯曼（Weisman）建議技術公司在心理健康領域工作，儘管她沒有就Scribe工具進行諮詢。
魏斯曼說，由於她應該記住的觀眾數量，她害怕寫臨床筆記。除了保險公司外，他的票還可以由另一家醫療保健提供者，涉及客戶或客戶本人的法定案件的法官要求。
今年有一段時間，Weisman主要使用Heidi Health的醫學抄寫員。該工具為心理學家提供的提議有望“增加參與度，恢復視覺接觸並提供較溫暖的心理保健”。
Heidi Health及其其他抄寫員AI測試了Weisman測試的AI，減少了良好細節的排水“認知負荷”，並以許多潛在格式之一的形式組成。儘管沒有關於心理健康提供者效率提高的研究，但Weisman估計該工具還為每個客戶節省了大約五分鐘的時間。
但是，Weisman還知道，即使記錄會話的人AI抄寫員，尤其是那些記錄會話的人，即使它們促進了其工作量。
Weisman在諮詢了各種IA Scribe Companies提供的Passe-Share版本後，向她個人創建的知情同意書提供了所有客戶。
她需要客戶的書面同意，並強調他可以隨時被解僱，包括在會議中。 Weisman還清楚地表明，它在個人數字錄音機上記錄了會話，並將其下載到受密碼保護的計算機上的AI抄寫員。 Weisman在他的同意書上承諾在48小時內刪除音頻的所有副本，包括在其設備上錄製。
她還決定，作為一般規則，不要使用匿名匿名轉錄的AI抄寫紙，並讓它們保持更好的培訓。
Mashable趨勢報告
她說：“對我來說，這是一個破壞者。” “我自己是一名治療師，我真的試圖（偏見）對消費者的保護。我認為作為一個領域和治療師，這是我們應該採取的目標。”
海蒂·健康（Heidi Health）說，當她被錄製時，她會加密音頻。該公司不存儲錄音，也不會使用轉錄來形成其AI技術。轉錄是由HéberéeDeHeidi Health的模型而不是第三方製作的。臨床醫生負責廢除海蒂健康的轉錄。
魏斯曼估計，已經有四分之三的客戶同意記錄。她看到，西雅圖地區的一些技術工作者明確地拒絕了它，而另一些技術人員則接受了它，並指出他們在自己的工作中使用了生成的AI產品。
“聲譽損害”的可能性
去年秋天， 美國心理協會創建了一個控制清單 對於設想用於臨床或行政目的的AI工具的治療師。目的是幫助治療師，他們可能對生成AI的功能幾乎沒有理解，以評估對安全性和機密性的不同產品。
控制列表邀請用戶請求產品是否符合HIPAA，Crypt用戶數據，使用高級安全措施，並允許用戶刪除或修改其數據等。
即便如此，APA Wright表示，獨立於心理健康的專業人員可能無法自己分析密集的技術語言。他們還可以結識有意制定其不透明隱私慣例的公司。
總的來說，她說治療師應該了解每種產品都是可犯錯的。數據違規和洩漏可能隨時發生。
確實，最近發表的研究 JAMA網絡開放 已經發現，自2010年以來，每年違反醫療保健和勒索軟件攻擊數據的侵犯數量增加，總計6,468起唯一的事件，直到2024年10月。儘管黑客或計算機事件是主要違規行為的類型，但勒索軟件攻擊現在解釋了大多數患者損害文件。
“勒索軟件攻擊者無需逃離這種類型的數據即可造成損害 – 他們只需要使威脅可信。”
主要作者約翰·江（John X. Jiang）在登記療法會議上受到質疑，他說他們可以成為壞演員的“脆弱目標”。由於音頻通常包含敏感信息，因此，如果錄音被盜，則具有單一的敲詐值。
密歇根州立大學會計教授江說：“勒索軟件攻擊者無需披露這種類型的數據即可造成損害 – 他們只需要使威脅可信。” “操作干擾和聲譽損害的結合創造了一種強大的槓桿形式。”
這家醫療保健巨頭承認超過500萬人受勒索軟件攻擊影響的患者
美國精神病學協會IT心理健康委員會主席達琳·金（Darlene King）博士說，應比醫學圖形中通常查獲的信息保持更高的安全標準。儘管這些數據也非常敏感，但患者治療課程的內容可能包括詳細和深入個人信息，例如創傷，虐待和依賴性。
國王是達拉斯UT西南醫學中心的精神科醫生，使用AI抄寫員進行醫學文檔，但沒有進行治療。
她補充說，精神衛生界必須在供應商的放鬆和專業疲憊之間找到平衡，並保護患者的隱私，同時利用AI的積極用途，例如改善心理健康治療。
為什麼要錄製？
Quill Therapy Solutions的軟件工程師兼聯合創始人喬恩·斯瓦塔爾（Jon Sustar）認為，他對此挑戰的一部分找到了答案：不要註冊會議。
Quill使用生成的AI為臨床醫生製作文檔，但其口頭或書面摘要的事實。
儘管這種方法無法減少客戶討論內容的元素的認知提醒和優先級負載，但這意味著沒有違反會議的記錄。音頻摘要後來立即轉錄和刪除。奎爾也不存儲它創建的筆記。 Sustar將數據描述為“短暫的”。
Sustar是Quill的批准的心理健康顧問和聯合創始人的Sustar，堅信治療是一個神聖的空間。他擔心，當第一個要求允許記錄他們的對話時，這會對治療師和客戶之間的權力動態產生負面影響。
Sustar還了解到，無論是否在正式療法中，人們都將諸如Chatgpt之類的生成性AI平台談論他們的個人困難，就像與心理健康供應商一樣。
儘管其中一些用戶可能會因違反數據而和平，但他擔心突然的資本化初創公司突然將心理健康規範轉移到了事實上的錄音和分析中，即使治療師及其客戶也沒有完全意識到這意味著或意味著什麼。
Sustar解釋說：“我最大的擔憂是，公司正在悄悄地將治療課程的大規模記錄正常化，並且他們經常在所有相關人員的完全啟發性同意的情況下做到這一點。”
主題
社會心理健康
