通過人工智能讓臨床醫生為臨床做好準備詹姆斯博士 密西根大學內科&兒科
臨床醫生必須具備評估和確定AI輸出在其自身臨床實踐和患者中的適當應用的知識和技能。
AI的影響,其中一些將被改變?!彪S著AI在臨床實踐中發揮更大的作用,它顯然需要多層次的監督。然而,即使有適當的外部監督,臨床醫生審查和信任這些技術的重要性怎么強調都不為過。這篇文章概述了可以讓臨床醫生參與并投資于包括AI在內的醫療保健的步驟。
關于人工智能在醫療保健領域的潛在前景和風險已經有很多報道,媒體和學術界都在為這一宣傳做出貢獻,包括預測某些專業將被機器所取代。一位ML技術的開發人員說,“我們應該停止培訓放射科醫生。”與所有引入臨床實踐的新技術一樣,在等待臨床持續成功和受益的嚴格證據時,對AI持懷疑態度是合適的。
AI并不是第一個承諾提供更高效和有效醫療服務的信息技術應用。從早期引入的電子健康記錄(EHRs)中可以吸取一些教訓。在聯邦激勵措施的部分推動下,2008年至2017年期間,美國擁有有效EHR的醫院不到10%,而沒有EHR系統的醫院也不到10%。EHR已經兌現了一些承諾(例如,改善了患者的安全,尤其是在藥物使用方面的安全),但人們對EHR對臨床醫生的福祉、職業滿意度和醫患關系的影響表示擔憂。雖然這些預料不到的后果本質上是多因素的,但一個反復出現的主題是沒有仔細考慮EHR對最終用戶的影響。此外,據推測,缺乏一線臨床醫生的早期參與會對EHRs的實施產生不利影響。
在醫療保健從紙筆記錄系統轉變為基于EHR的企業的十年之后,AI代表著進入了一個潛在實踐變革技術的新時代。數十億美元被投入到醫療保健和相關研究中。數百家基于人工智能的初創企業已經成立,數字巨頭(如蘋果、微軟、谷歌和亞馬遜)也在大力投資。美國國家醫學院(National?。粒悖幔洌澹恚。铮妗。停澹洌椋悖椋睿澹╊A計,人工智能將成為醫療保健的主流,因此報告《醫療保健中的人工智能:希望、炒作、希望和危險》鼓勵并教育社區關注有關數據科學和人工智能的知識。
重要的是,為臨床醫生提供使用基于AI的技術所需的技能、資源和支持,現在被認為是AI在醫療保健中成功應用的關鍵。要做到這一點,臨床醫生需要現實地了解醫療保健的潛在用途和局限性,忽視這一事實可能會導致臨床醫生的憤世嫉俗和患者預后不佳。
透明度和信任
雖然EHR的采用受到聯邦授權和激勵的推動,但AI不太可能出現類似這種情況。相反,其采用更可能受到傳統投資回報考慮的制約。然而,這些考慮并不一定意味著政府不會發揮作用:潛在的監管問題、法律責任和社會偏見都將影響AI的采用,決策者也可能卷入這些問題。例如,考慮到人工智能算法可能產生的深遠影響和廣泛危害,國際、聯邦和州各級制定指導方針、政策和法律是有必要的。
盡管支持在常規臨床實踐醫療環境中使用AI的證據相對較弱,AI模型繼續被銷售和部署。最近的一個例子是Epic敗血癥模型。雖然該模型已在美國數百家醫院得到了廣泛應用,但最近的一項研究表明,與模型開發過程中觀察到的性能相比,該模型在正確識別早期敗血癥患者和改善臨床環境中的患者預后方面表現明顯更差。
這類研究強調了對AI產品規定嚴格的報告標準和審查的必要性。一個強大的聯邦批準流程,如用于藥品是必要的。在機構層面,類似于《臨床實驗室改進修正案》的實驗室研究認證過程有助于確保不僅采用和實施算法的標準嚴格,而且對其適用性和準確性進行持續的評估。
然而,臨床醫生對于做出臨床實施決定所需的信息缺乏共識。因此,需要為AI臨床試驗和用于評估AI技術效用的相關研究指定標準化、可靠、循證的標準指南。如果沒有這樣的標準,臨床醫生對基于AI的技術的信任和適當使用將受到阻礙。
批判性評估指南
一線臨床醫生必須能夠自如地評估與臨床AI醫學相關的醫學文獻。一個類比就是循證醫學(EBM)運動,它創建了用戶指南,使臨床醫生具備閱讀的技能,并適當地將研究應用于患者護理。
在已證實的循證醫學框架的基礎上,Liu和他的同事開發了一個用戶指南來評估使用ML的文章。需要額外的指南來促進評估使用AI來幫助回答有關預后、傷害、治療和成本效益問題的研究。隨著臨床醫生在評估AI文獻方面越來越成熟,臨床試驗報告的嚴密性和透明度可能會隨之提高。制定和推廣適當的用戶指南將有助于支持這一轉變。
臨床醫生和患者(共同決策)
大約在EBM發起的時候,一場平行運動開始促進患者和臨床醫生之間的共同決策。隨著基于AI的預測和算法繼續為醫療決策提供信息,患者和臨床醫生必須重新考慮共享決策,因為現在的決策很可能涉及到團隊中的一個新成員——AI衍生算法。最終,臨床醫生將承擔起成功調解患者、計算機和他們自己三者之間關系的大部分責任。臨床醫生將需要解釋AI在他們的推理和建議中的作用。隨著時間的推移,這種關系很可能會改變,患者和家屬可能會直接根據AI的建議,繞過臨床醫生做出一些決定。在AI改革后的醫療體系中,駕馭這一轉變——并為有資質的專家找到合適的角色——將是一個重大的挑戰。
結論
AI將很快在醫療保健領域變得無處不在?;谠诓粩嘀贫▽嵤┎呗缘倪^程中吸取經驗教訓,考慮臨床醫生作為AI開發的算法、過程和風險預測者的最終用戶的關鍵是必要的。臨床醫生必須具備評估和確定AI輸出的適當應用的知識和技能,這對自己的臨床實踐和他們的患者有益。這些新技術將為臨床醫生創造新的角色和責任,而不是被AI取代。
(文章來源于互聯網)