1、數據泄露問題
醫療數據包括患者的身份信息、健康狀況、疾病診療情況、生物基因信息等,不僅涉及患者隱私,還具有特殊的敏感性和重要價值,一旦泄露,可能給患者帶來身心困擾和財產損失,甚至對社會穩定和國家安全造成負面影響。然而,醫療AI的研發與應用,必須依賴大量的醫療數據用于算法訓練,數據量越大、越多樣,其分析和預測的結果將越精準。但數據收集、分析處理、云端存儲和信息共享等大數據技術的應用,加大了數據泄露的風險。
事實上,近年來醫療行業已經成為數據泄露的重災區。2017年全球15%的數據泄露事件來自醫療保健行業,僅次于金融業。我國醫療數據泄露事件也不鮮見。據《法制日報》2017年9月報道,某部委醫療信息系統遭到黑客入侵,被泄露的公民信息多達7億多條,8000多萬條公民信息被販賣。2018年多家醫療機構計算機系統被勒索病毒攻擊。2020年4月,某AI醫學影像公司遭黑客入侵,其AI輔助系統和訓練數據被竊取,并以4比特幣(約合18萬人民幣)的價格在暗網上公開出售。這也是國內首家被曝數據泄露的醫療AI公司案例。
2、醫療安全問題
盡管醫療AI被賦予了準確、高效、安全等優點,但醫療活動本身具有一定的風險性和不確定性,加上手術機器人等醫療AI在應用中需要密切接觸患者身體或直接作用于人體某些器官,不可避免地面臨潛在風險。主要包括技術和人為兩方面的因素。
從技術來看,國內醫療AI的發展在當前還處于起步階段,產品性能還不穩定,也缺乏相應的標準和規范,安全性還有待考證,需要在實踐中不斷調試改進。即使是較為成熟的進口產品,也存在諸多問題。據美國媒體報道,使用沃森腫瘤解決方案的醫生發現,沃森經常會推薦不準確甚至錯誤的治療建議。如果醫生據此決策,后果難以設想。
人為因素主要是醫生操作不當。在現階段,醫療AI還只是機器或程序,它不能根據實際情況調整自己的行為,必須依賴醫生對機械進行操控或做最終決策。在應用之初,醫生可能因經驗不足、操作不熟練而引發機器故障,有的甚至會造成嚴重后果。如2015年2月,英國首例機器人心臟手術過程中出現“機器失控”,主刀醫生在慌亂中應對失當,最終導致手術失敗,患者一周后死亡。這起事故的原因,除機器故障外,與主刀醫生操作經驗不足、未充分估計手術風險有很大關系。
3、責任界定問題
傳統醫療模式下,醫療機構和醫生是醫療服務的責任主體。引入AI后,改變了傳統的醫患關系格局,醫生與患者之間增加了“AI醫生”及其設計制造商,這就使得醫療責任認定問題變得復雜起來。一方面,在當前技術條件下,無論是人類醫生,還是醫療AI,都不能達到100%的準確率,出現誤診和漏診在所難免。如果在診治過程中,醫生依賴AI出具的報告做出錯誤的判斷,給患者的疾病診治和身心健康帶來傷害時,其責任到底該由誰來承擔?另一方面,隨著AI技術的發展,今后的AI將擁有越來越強大的自主能力,在醫療活動中將扮演越來越重要的角色,甚至可能獨立做出診斷結果,醫療責任界定問題將更加突出。當醫療AI作為直接“參與者”,在手術、康復訓練和護理中出現傷害患者的異常行為,或間接性地對患者造成欺騙性、虛幻性消極影響時,是否可以追究它們的倫理責任和道德義務?它們是否具有或在多大程度上具有承擔醫療責任的能力?因此,有必要加強醫療AI背景下的風險責任規制,以確保患者和公眾的健康權益。
4、公平受益問題
AI應用于醫療領域,大大提高了診療效率和精準度,無疑會給患者帶來巨大福音,但也存在不能公平受益的問題。一方面,由于醫療AI是新興的醫學高新技術,在目前階段還屬于稀缺資源,加上醫療AI的研發成本高昂,因而在臨床應用中收取費用較高,且一般不在醫療保險報銷范疇。這就使得醫療AI成為少部分人群能夠享用的技術,大多數患者由于經濟能力有限,只能望機興嘆。另一方面,基于算法和大數據的AI程序并非完全客觀公正,其中可能隱含著某些偏差或歧視。這些偏差或歧視可能來自算法設計者的價值偏好,也可能來自有偏見的訓練數據,還可能來自輸入數據的抽樣偏差。由于深度學習是一個典型的“黑箱”算法,具有不透明性和不可解釋性,從而使這些偏見難以被覺察,并在深度學習中被不斷復制和放大,最終導致預測結果的偏差,可能使某些人群在醫療評估中受到歧視性對待,甚至可能引發醫療安全事故。
5、醫務人員的未來定位問題
AI有著遠超人類的學習能力和計算能力,其準確、高效和不知疲倦等優勢,將極大提高工作效率,降低勞動成本,并逐步取代越來越多的人工勞動。2017年,英國一家名為“改革”的智庫發布報告稱,機器人未來將有可能取代英國公共部門近25萬個崗位。在醫療領域,AI正逐漸取代人類從事一些簡單的醫療后勤和技術工作,如智能導診、微信掛號繳費、機器人發藥等,并在醫學影像、輔助診療等核心醫療環節發揮著越來越重要的作用,醫師的主體性地位日益受到挑戰。由此引發了人們對醫務人員是否能被AI取代的爭論。
醫療行業有其特殊性,涉及人與人之間的溝通和交流,需要醫生的個人經驗和情感投入,這是AI無法取代的。我國醫療資源短缺,基層醫生經驗不足,有了AI的輔助,醫務人員不僅可以更好地診治患者,還可把更多的精力用于與患者溝通,給予患者更多的人文關懷。從這一點來看,AI不僅無法取代醫務人員,還會使他們的工作更有價值,更有人情味,更能回歸醫學是人學的本質。但是,醫療AI的應用,必將推動現有醫療模式發生變革,也必將對醫務人員提出更高的要求,如果醫務人員不能及時完善知識結構,提升溝通技巧和人文素養,是難以勝任AI時代的醫療工作的。
6、患者信任問題
醫療技術的發展最終是為患者服務的,必須關注患者對醫療AI的信任問題。據筆者的一項調查顯示:雖然大多數患者對醫療AI持樂觀、期待態度,表示對擁有智能醫療設備的醫院會更加信任,但對AI應用于臨床診斷和治療,患者的接受度和信任度并不高,且AI介入的工作越多,占據的角色越重,患者的接受度和信任度反而越低。
分析其發因,主要有兩個方面:一是當前的醫療AI還處于初級階段,患者對其缺乏深層次了解,加上很多技術尚未成熟,患者對其安全性、易用性等心存擔憂,因而對其在醫療活動中的深度介入持戒備心理。二是醫療AI改變了傳統的就醫模式和醫患關系,“醫”不再只是有情感的人,也可以是智能機器或程序,傳統的醫患交流可能更多地變成“人機對話”。因此,面對不會說話、冷冰冰的機器,患者對其溝通能力、理解能力以及應變能力等存在懷疑態度,進而影響到他們對醫療AI的信任度。可見,AI能否在醫療領域順利應用,還需過患者信任這一關。
責編AJX
-
AI
+關注
關注
87文章
30830瀏覽量
268993 -
數據分析
+關注
關注
2文章
1447瀏覽量
34056 -
智慧醫療
+關注
關注
9文章
1064瀏覽量
46490
發布評論請先 登錄
相關推薦
評論