全部商品分類
中國抗癌協(xié)會人工智能專業(yè)委員會于２０２３年進行了中國腫瘤醫(yī)生對ＡＩ感知態(tài)度的課題研究，其中一項子課題是關(guān)于腫瘤醫(yī)生對ＡＩ擔憂的研究。研究結(jié)果發(fā)表在ＪＭＩＲ Ｆｏｒｍ Ｒｅｓ （ｈｔｔｐｓ：／／ｐｕｂｍｅｄ．ｎｃｂｉ．ｎｌｍ．ｎｉｈ．ｇｏｖ／３８８３８３０７／）。
存在多重擔憂
全國范圍內(nèi)的２２８名腫瘤醫(yī)生參與了在線問卷調(diào)研，研究發(fā)現(xiàn)醫(yī)生們在擁抱ＡＩ技術(shù)的同時，也表達了對其在臨床中ＡＩ應(yīng)用的多種擔憂。這些擔憂不僅多樣且深刻，其背后的因素對于推動ＡＩ在醫(yī)療領(lǐng)域的安全、有效實施具有不可忽視的影響。
根據(jù)調(diào)研結(jié)果，擔憂主要體現(xiàn)在以下方面：
１．ＡＩ誤導(dǎo)診斷與治療的隱憂：高達７１．４９％的受訪者表達了對ＡＩ可能誤導(dǎo)診斷和治療流程的深切憂慮。由于ＡＩ系統(tǒng)高度依賴訓(xùn)練數(shù)據(jù)，數(shù)據(jù)中的偏見會無形中傳遞給ＡＩ，進而引發(fā)錯誤的診斷或治療建議。此外，ＡＩ的預(yù)測能力受限于其學習數(shù)據(jù)的完整性，不全面的數(shù)據(jù)如同盲人摸象，難以保證預(yù)測的準確性。更令人擔憂的是，ＡＩ系統(tǒng)的復(fù)雜性和不透明性常常讓醫(yī)生難以透徹理解其背后的邏輯與結(jié)論，加之部分醫(yī)生缺乏針對ＡＩ的充分培訓(xùn)，這可能會導(dǎo)致在實際應(yīng)用中做出次優(yōu)的決策。
２．過度依賴ＡＩ的風險：７１．０５％的受訪者警示了過度依賴ＡＩ可能帶來的后果——醫(yī)生自身的診斷與治療能力或?qū)⒅饾u退化。他們擔心過度依賴ＡＩ可能會削弱醫(yī)生通過長期教育、培訓(xùn)和實踐積累的核心技能，導(dǎo)致醫(yī)生對ＡＩ的決策產(chǎn)生盲目相信，進而忽視必要的審慎與判斷力，這無疑對患者的安全構(gòu)成了潛在威脅。類似完全信任地圖導(dǎo)航，而失去自己的判斷和認知。
３．數(shù)據(jù)安全與患者隱私泄露的隱患：５３．９５％的受訪者對數(shù)據(jù)安全和患者隱私保護問題表示了關(guān)注。隨著ＡＩ系統(tǒng)在醫(yī)療領(lǐng)域的廣泛應(yīng)用，大量敏感的患者數(shù)據(jù)被收集和處理，這使得醫(yī)療系統(tǒng)成為了黑客攻擊的高價值目標。一旦數(shù)據(jù)泄露，不僅可能引發(fā)身份盜竊、財務(wù)損失等嚴重后果，還會對醫(yī)療機構(gòu)的聲譽和患者信任造成不可估量的損害。值得注意的是，國外類似研究也普遍將這一問題視為首要顧慮，這或許反映了全球范圍內(nèi)對數(shù)據(jù)隱私保護的共同重視，同時也受到不同國家和地區(qū)文化認知差異的影響。
４．數(shù)據(jù)與算法偏見的陰影：同樣有５３．９５％的參與者指出了ＡＩ數(shù)據(jù)和算法偏見的存在及其嚴重后果。這些偏見如同潛藏在健康ＡＩ中的定時炸彈，可能導(dǎo)致診斷失誤、治療疏漏，甚至對患者造成不可逆轉(zhuǎn)的負面影響。更令人擔憂的是，這些偏見還可能加劇社會現(xiàn)有的不平等現(xiàn)象，使得某些群體在享受ＡＩ帶來的醫(yī)療便利時面臨更多障礙。
５．法律法規(guī)滯后的挑戰(zhàn)：半數(shù)受訪者（５０．４４％）對ＡＩ在醫(yī)療領(lǐng)域應(yīng)用時面臨的法律法規(guī)滯后問題表示了擔憂。他們指出，當前醫(yī)療ＡＩ相關(guān)的法律、法規(guī)和政策尚不完善，醫(yī)療責任界限模糊不清，這給醫(yī)療機構(gòu)和醫(yī)生帶來了極大的不確定性。在快速發(fā)展的ＡＩ技術(shù)面前，如何及時制定并完善相關(guān)法律法規(guī)，確保醫(yī)療ＡＩ的合法、安全、有效應(yīng)用，成為了亟待解決的問題。
此外，３９．４７％的參與者對ＡＩ產(chǎn)品的“黑箱”特性也表達了一定程度的憂慮，這一現(xiàn)象與學術(shù)界和業(yè)界對更具可解釋性和透明度ＡＩ模型的廣泛呼吁不謀而合。專家認為，可信的ＡＩ應(yīng)當賦予專業(yè)人員足夠的能力，讓他們能夠自信地為其決策承擔責任，這進一步凸顯了發(fā)展可解釋ＡＩ技術(shù)的重要性。為確保ＡＩ算法在臨床應(yīng)用中的安全性和有效性，必須對其分析和臨床效果進行持續(xù)監(jiān)測，并明確可解釋性和因果關(guān)系作為監(jiān)督的基石。專家們強調(diào)，只有憑借可解釋性和因果關(guān)系的明確證據(jù)，他們才能更加負責任地履行自己的職責。
同時，３６．８４％的受訪者指出，ＡＩ在醫(yī)療護理中缺乏同理心，這一觀點在ＡＩ倫理的討論中屢見不鮮，凸顯了人類情感在醫(yī)療過程中無法被技術(shù)輕易替代的獨特價值。另外，商業(yè)模式的不明確（２５．４４％）、與現(xiàn)有工作流程整合的困難（１６．６７％），以及ＡＩ產(chǎn)品操作的復(fù)雜性（同樣占比１６．６７％），也是受訪者提及的顯著問題。
值得注意的是，僅有一小部分（３．０７％）受訪者認為ＡＩ在醫(yī)療應(yīng)用中不存在任何風險，這種感知的多樣性很可能源于受訪者對ＡＩ技術(shù)的理解程度、知識儲備以及實際接觸經(jīng)驗的差異。
推動ＡＩ在醫(yī)療領(lǐng)域健康應(yīng)用
研究進一步指出，ＩＴ經(jīng)驗在醫(yī)生對ＡＩ的態(tài)度中扮演了重要角色。具備ＩＴ經(jīng)驗的腫瘤科醫(yī)生由于對ＡＩ的能力和局限有更深刻的理解，因此在將ＡＩ技術(shù)融入其醫(yī)療實踐中顯得更加自信。而沒有ＩＴ經(jīng)驗的醫(yī)生可能因為對這項技術(shù)的不熟悉而感到擔憂。這些發(fā)現(xiàn)強調(diào)了在醫(yī)療領(lǐng)域推廣ＡＩ技術(shù)時，需要考慮到醫(yī)生的不同背景和經(jīng)驗，并提供相應(yīng)的教育和培訓(xùn)，以確保技術(shù)的有效和人性化的整合。
在深入剖析影響醫(yī)生對人工智能（ＡＩ）擔憂的人口統(tǒng)計學與專業(yè)變量時，研究發(fā)現(xiàn)了一個引人關(guān)注的現(xiàn)象：性別差異的影響在其他眾多研究中有統(tǒng)計學上的顯著性，但在本研究未見此差異。具體而言，男性和女性醫(yī)生對ＡＩ可能誤導(dǎo)診斷和治療的擔憂比例相近，分別為７１．８５％和７０．９７％；同樣，在過度依賴ＡＩ的憂慮上，兩者的比例也相近，分別為６９．６３％和７３．１２％。不過在國外其他專科醫(yī)生研究中，顯示了性別上的差異，可能與樣本量有關(guān)。
在教育水平方面，擁有本科學歷的腫瘤醫(yī)生對數(shù)據(jù)和算法偏見的擔憂比例高于碩士和博士學位持有者（Ｐ＝．０３４）。這可能是因為高等教育培養(yǎng)了個體對新興技術(shù)如ＡＩ的接受度，通過提供知識、批判性思維能力、技術(shù)接觸和學習信心，從而減少了對ＡＩ的擔憂。此外，本科學歷的腫瘤醫(yī)生對法律法規(guī)政策滯后的擔憂也更為顯著（Ｐ＝．０４６）。相比之下，臨床工作１０年以下的腫瘤醫(yī)生對這一問題表現(xiàn)出較少的擔憂，與擁有１０年以上經(jīng)驗的醫(yī)生相比（Ｐ＝．０４７）。盡管在大學附屬醫(yī)院工作的醫(yī)生與非教學醫(yī)院的腫瘤醫(yī)生相比，對ＡＩ商業(yè)模式問題表現(xiàn)出更大的擔憂，但這種趨勢并沒有達到統(tǒng)計學上的顯著性（Ｐ＝．０８８）。
尤為值得注意的是，那些具備ＩＴ經(jīng)驗，特別是參與過醫(yī)院信息系統(tǒng)（ＨＩＳ）、電子病歷（ＥＭＲ）等項目開發(fā)實施的醫(yī)生，在擔憂過度依賴ＡＩ及ＡＩ可能削弱同理心的問題上，比例顯著低于無ＩＴ背景的醫(yī)生（Ｐ＝．０１７；Ｐ＝．００３）。這表明，對ＡＩ技術(shù)的深入理解與實踐經(jīng)驗，不僅增強了醫(yī)生對ＡＩ的信心，也促使他們更理性地看待其潛在影響。
ＡＩ在腫瘤學領(lǐng)域展現(xiàn)出了極為廣闊的應(yīng)用前景，但要確保其順利融入臨床實踐，有必要正視醫(yī)生們的顧慮。這需集合政策制定者的引導(dǎo)、技術(shù)開發(fā)者的創(chuàng)新、醫(yī)療專業(yè)人員的實踐智慧以及法律專家的專業(yè)意見，來共同推動。具體措施包括增強透明度、堅持以人為核心的設(shè)計理念、有效減少技術(shù)偏見，并對醫(yī)療工作者進行充分的ＡＩ知識普及，使他們既了解ＡＩ的巨大潛力，也認識到其局限性。這些努力對于促進ＡＩ在醫(yī)療行業(yè)的健康發(fā)展至關(guān)重要。
需要指出的是本次關(guān)于ＡＩ在醫(yī)療應(yīng)用中的調(diào)查問卷已經(jīng)過嚴格的效度和信度驗證，確保了數(shù)據(jù)的可靠性和問卷的質(zhì)量。更令人期待的是，即將發(fā)布的ＩＩ期調(diào)研結(jié)果，基于１１２２例更大樣本量的數(shù)據(jù)，將為我們提供更為深入、全面的分析視角，幫助我們探索更多變量間的關(guān)聯(lián)與影響，進一步推動ＡＩ在醫(yī)療領(lǐng)域的精準應(yīng)用與持續(xù)優(yōu)化。
