![]()
就在紐約市史上規(guī)模最大的護士罷工落下帷幕僅幾周后,美國醫(yī)療界再掀波瀾——紐約公立醫(yī)院系統(tǒng)(NYC Health + Hospitals)首席執(zhí)行官米切爾·卡茨,公然拋出了一個極具爭議的構想:未來將用AI徹底替代人類放射科醫(yī)生,負責醫(yī)學影像閱片和診斷工作。對國內(nèi)讀者而言,放射科醫(yī)生是醫(yī)院里負責“讀片”的核心崗位,小到骨折、肺炎,大到癌癥篩查,都離不開他們的專業(yè)判斷,而卡茨的這番表態(tài),相當于要讓AI接手這個關乎生命安全的關鍵環(huán)節(jié)。
在《克萊恩紐約商業(yè)》舉辦的一場行業(yè)論壇上,身為紐約公立醫(yī)院系統(tǒng)“掌舵人”的卡茨,毫不避諱地表達了自己的想法。要知道,他管理著紐約全市11家公立醫(yī)院,覆蓋數(shù)百萬民眾的就醫(yī)需求,其表態(tài)極具行業(yè)風向標意義。他明確表示,希望用當下熱門的視覺大語言模型,逐步替代專業(yè)放射科醫(yī)生的核心工作。
“只要能搞定監(jiān)管層面的問題,我們現(xiàn)在就可以用AI取代大量放射科醫(yī)生。” 卡茨在論壇上的表態(tài)斬釘截鐵,絲毫沒有掩飾自己推動AI替代醫(yī)生的決心,這番話也迅速在全球醫(yī)療界引發(fā)軒然大波。
為了支撐自己的觀點,卡茨還以女性健康領域的乳腺癌篩查為例,詳細闡述了AI替代方案:先用AI完成初步閱片篩查,只有當AI判定影像存在異常、無法明確診斷時,再讓放射科醫(yī)生介入復核。他毫不諱言,推行這種模式的核心目的,就是為醫(yī)院大幅節(jié)省人力成本——要知道,放射科醫(yī)生屬于高門檻、高薪資崗位,培養(yǎng)一名合格的放射科醫(yī)生往往需要近十年時間,人力成本居高不下,這也是很多醫(yī)院面臨的共性難題。
卡茨的這番言論,幾乎立刻遭到了全球放射科醫(yī)生的集體反對和猛烈抨擊,不少醫(yī)生直言其“無知且危險”,完全忽視了醫(yī)療行業(yè)的特殊性。
圣地亞哥北岸影像中心的資深放射科醫(yī)生穆罕默德·蘇海勒,第一時間站出來反駁,語氣尖銳:“卡茨的話,鐵證般說明那些對放射學一竅不通的醫(yī)院管理者,正在把患者置于危險之中。” 他怒斥卡茨等醫(yī)院管理者,根本不了解放射診斷的復雜性,輕易就被AI公司的宣傳忽悠,而這些公司推出的AI診斷工具,距離臨床診療的標準還有很大差距,根本無法勝任獨立閱片的工作。
“任何試圖只用AI讀片的做法,都會直接導致患者受傷甚至死亡。只有對放射學完全無知的人,才會說出這么天真的話。” 蘇海勒毫不客氣地駁斥道,“但從某種角度說他們也沒說錯:醫(yī)院為了省錢,就算傷害患者也在所不惜,只要不違法就行。”這番話戳中了核心——醫(yī)療行業(yè)的核心是“救人”,而卡茨的構想,顯然是將“省錢”放在了“患者安全”之前。
事實上,不僅放射科醫(yī)生反對,越來越多的醫(yī)學研究也發(fā)出警示:當前階段,讓AI直接負責X光、CT等影像閱片,存在極大的安全隱患,根本無法保障診斷的準確性。
斯坦福大學近期開展的一項研究(目前尚未經(jīng)過同行評審),就揭露了AI影像診斷工具的致命問題:研究人員發(fā)現(xiàn),部分市面上頂尖的AI胸部X光診斷工具,即便根本沒看到真實的影像圖片,也能在醫(yī)學基準測試中拿到高分,蒙混過關。
更可怕的是,這些拿到高分的AI,并不會承認自己沒看到圖像,反而會編造一套看似嚴謹、專業(yè)的診斷邏輯,對著根本不存在的影像“一本正經(jīng)”地給出診斷結果——研究人員將這種現(xiàn)象稱為AI“海市蜃樓”,它比我們常見的AI幻覺(比如回答錯誤、邏輯混亂)更隱蔽、更危險,因為它的表述完全自洽,讓人難以分辨真假。
和常見的AI幻覺不同,AI“海市蜃樓”最大的特點就是全程邏輯自洽、推理流暢,表面上看,每一個診斷結論都像是基于影像得出的,但實際上完全沒有任何真實依據(jù),而且目前常規(guī)的AI幻覺檢測手段,根本無法識別這種“偽裝”,一旦應用到臨床,很可能導致嚴重誤診。
這也意味著,當前用于影像診斷的視覺大模型,本質(zhì)上仍存在“功能性失明”的致命缺陷——看似能精準閱片,實則可能在沒有影像依據(jù)的情況下“瞎診斷”。對那些計劃用AI削減放射科人員的醫(yī)院來說,這無疑是一記重磅警告;而對普通患者而言,一旦遭遇AI“海市蜃樓”導致的誤診,可能會錯過最佳治療時機,甚至付出生命代價,這無疑是巨大的安全隱患。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.