2024 年 5 月 20 日

面對人工智慧醫療器材的興起,台灣該注意什麼?

作者:陳昱安

目錄
圖片來源: 取自IStock。

台灣從2020至2023年間已經通過超過100件人工智慧/機器學習 (Artificial Intelligence/Machine Learning, 以下簡稱為 AI/ML)醫療器材的上市申請。其中包括宏碁智醫開發的「智骨篩」,是台灣第一個以胸腔 X 光影像分析骨質密度異常的AI/ML醫療器材,能快速篩檢出民眾是否有骨質疏鬆症狀。英華達 AI 團隊推出的「英愛膚」是以App模式操作的軟體,能輔助非傷口照護專科的醫療人員判讀傷口。然而,並非所有醫療相關軟體都需受醫療器材管理法規範,只有符合《醫療器材管理法》第3條定義,或《醫療器材分類分級管理辦法》第4條附表所列品項才須納管。台灣食藥署會考量軟體(1) 是否宣稱具有(或可協助)診斷、治療功能、(2) 對疾病治療的重要性、(3) 對疾病診斷的貢獻度、以及(4) 對人類健康的可能為害等因素,來判定醫用軟體是否屬於醫療器材。

台灣的監管趨勢與挑戰

台灣的AI/ML醫療器材相關規範主要參考美國食藥署及日本厚生勞動省相關法規,自2021年以降,便持續推出相關指引 (參見表一)。2022年10月時立法院便已發表相關議題研析,點出《醫療器材管理法》及《醫療器材許可證核發與登錄及年度申報準則》應針對軟體類醫療器材(Software as Medical Device, SaMD)作出相應之規範,尤其是有限制地允許低風險的AI/ML醫療器材在上市後,毋需在每次更新數據時均申請許可證變更。[1]

台灣食藥署在2021年12月發表的《醫療器材軟體上市後變更申請之管理指引》中提到改變訓練用或驗證用資料集時必須申請許可證變更,但在2022年3月發表的《醫療器材軟體上市後變更申請常見問答集》內補充僅有在影響到產品之安全性和有效性才須重新申請。台灣或可參考美國食藥署要求AI/ML醫療器材廠商在上市前繳交預定變更控制計劃,以政府掌握廠商的修改計畫及影響評估的前提下,放寬AI/ML醫療器材在上市後更新背後資料集的可能性。

另外此議題研析也建議增加專家參與醫療器材分類分級的機制,像是制定參與專家的篩選條件等。目前台灣醫療器材分為三級,以醫學影像相關軟體為例,第一等級為對病人風險最低層級,像是單純傳輸或儲存CT、MRI等醫學影像的軟體。若醫用軟體能夠編輯和分析影像,甚至進一步產生診斷輔助醫療人員,則分類為第二等級。倘軟體宣稱可取代醫事人員決策,全自動完成疾病診斷或治療,則為最高風險的第三等級。

但隨著AI/ML的應用擴大未來很可能會出現介於分級模糊地帶的醫用軟體。台大醫院在2023年3月便啟用本地端大型語言模型 (Large Language Model, LLM) 來幫助疾病分類編碼的任務。中國醫藥大學附設醫院也與台灣微軟合作「生成式AI智慧醫療紀錄」,可以透過醫療人員口述快速撰寫病歷。這兩種LLM的應用都為輔助生成病歷,不屬於醫療器材。不過,如果未來此類軟體可以進一步用來彙整病歷中的資訊輔助診斷,那就會被納入醫療器材監管範圍,並且需要專家的意見來做分級。

如何在監管層面減少AI/ML醫療器材的偏見

在上一篇《人工智慧醫療器材該如何監管? 以美國經驗為例》中,我們提到AI/ML醫療器材可能存在的演算法偏見問題,然台灣目前相關法規尚未明確針對此點提出規範。2022年8月發表的《人工智慧/機器學習技術之電腦輔助偵測(CADe)及電腦輔助診斷(CADx)醫療器材查驗登記技術指引》中僅要求詳列資料來源、病患分布、及比較病患資料與產品目標族群之特性,但並沒有強制AI/ML醫療器材背後仰賴的資料集納入特定族群,例如不同性別、年齡、都市/鄉村等次族群。由於不同醫療器材適應症和目標族群差異甚遠,要在指引中提出硬性要求相對困難。但另一種減少AI/ML醫療器材可能偏見的做法為嚴格要求「外部效度」(external validity),也就是將軟體應用在與訓練資料不同的族群中來確認效果。由於醫療器材優良臨床試驗管理辦法沒有明確針對AI/ML醫療器材規範資料代表性,表示可能有一些適用於此醫療器材的病人族群沒有被納入研究中。目前監管重點僅放在訓練用、驗證用、以及測試用資料三者之間的差異,尤其測試用資料必須嚴格與其他兩者區分以避免驗證結果的偏差。未來或許可以進一步要求測試用資料需要考量目標病人的多樣性,避免AI/ML醫療器材在特定族群中表現不佳。

AI/ML醫療器材對醫事人員的影響

目前台灣食藥署通過的AI/ML醫療器材以輔助偵測、診斷、篩檢為主,尚無完全自動診斷的器材通過核准。這也代表目前市面上的AI/ML醫療器材還是需要臨床醫師的判斷,旨在減少錯誤發生,但並無法取代醫師的角色。在監管層面尚未開放全自動診斷、無須醫師參與的AI/ML醫療器材的原因之一就是問責(accountability)。若AI/ML醫療器材出現診斷錯誤,導致醫療事故的發生,該由誰來負責? 台灣目前並未給予非人類法律人格,所以AI/ML醫療器材本身無法接受處罰,但在目前AI/ML醫療器材僅作為輔助的情況下,損害賠償責任勢必會由臨床醫師和醫療院所來一同承擔。[2] 未來若要開放全自動化的AI/ML醫療器材、放棄醫療中的人為因素,醫療行為的責任歸屬會是首先必須解決的課題。

但隨著AI/ML在生醫產業日新月異,若未來在監管層面放寬,是否有可能顛覆醫療人力市場的需求? 美國有經濟學家做出相關預測,認為工作內容涉及越多與人互動的醫事人員,越不需要擔心被AI/ML醫療器材取代。[3] 儘管臨床醫師在診斷方面面臨AI/ML醫療器材的挑戰,其絕大部分的時間是用在和醫療團隊以及病人溝通,而這樣的人際互動很難被AI/ML醫療器材完全取代。

護理師的情況也類似於此,許多AI/ML醫療器材能取代護理師監控病人情況的任務,但幫病人做治療前準備或是協調整個照護團隊的責任則很難被替代。和過去科技進步趨勢相反的是,AI/ML醫療器材並不會取代勞力密集的工作,例如幫病人翻身或是沖澡。一些非常專精領域的醫事人員,例如醫檢師、驗光師、或是病理學家等等,他們的工作比起低技術的居家照護員等,更可能逐步被更精良的AI/ML醫療器材所取而代之。但部分工作能夠轉派給AI/ML醫療器材幫忙也表示醫事人員有更多時間照護患者。

醫護人力不足的問題隨著高齡化社會越加明顯,若能有效利用 AI/ML醫療器材讓臨床照護流程更為流暢,有可能減少每位病人所需的醫療照護人力並維持照護品質,在提升病患安全的前提下解決未來人力不足問題。

AI/ML醫療器材的出現也會使醫療人員所需的技能改變。以過去機器人輔助手術這項科技為例,僅有少數接受過機器人輔助外科訓練的臨床醫師能夠使用這項技術,這些醫師有可能因為過早專業化,而犧牲了練習傳統手術的機會。能夠實施傳統手術並照護併發症的臨床醫師,也因為機器人輔助手術被列為醫療常規後日益減少。[4]

這樣的例子可以作為AI/ML醫療器材的借鏡。未來要能有效安全地使用AI/ML醫療器材,勢必會從醫療教育上作出改變,增加瞭解醫療影像輔助診斷軟體等相關課程。但是否會出現AI/ML醫療器材相關課程排擠傳統醫學知識,導致新世代的醫師缺少自行鑑別診斷的現象則值得觀察。另外此類教育課程也可能讓非醫師以外的醫事人員能夠填補人力空缺,例如在沒有常駐醫師的偏遠地區,讓護理師藉由AI/ML醫療器材幫忙鑑別診斷疾病,取代醫師提供服務。但如此賦予其他醫事人員更大權力的應用也可能造成醫師利益團體的反彈。[5]

結語

AI/ML醫療器材的興起,有可能減少醫療錯誤發生、更有效率的蒐集病人資料幫助疾病管理、以及讓臨床照護流程更為流暢。但在AI/ML醫療器材的快速更迭下,未來很可能出現全自動的診斷軟體,其對醫事人員勞力市場或是病人安全的影響需要長期關注。如何制定合適的監管範圍及強度,同時兼顧病人權益及鼓勵產品創新,將成為台灣食藥署的挑戰。

表一:台灣衛生福利部食品藥物管理署對人工智慧醫療器材監管的重要里程碑

發佈時間指引名稱
2021年8月《人工智慧/機器學習技術之醫療器材軟體查驗登記技術指引》
2021年12月《醫療器材軟體上市後變更申請之管理指引》
2021年12月《醫療器材軟體製造業者品質管理系統指導文件》
2022年8月《人工智慧/機器學習技術之電腦輔助偵測(CADe)及電腦輔助診斷(CADx)醫療器材查驗登記技術指引》
2022 年9月修正《醫用軟體分類分級參考指引》
2023年8月修正《醫療器材分類分級管理辦法》
資料來源: 作者自行整理。

[1]李郁強, 《人工智慧醫療器材之法制初探》, 立法院議題研析編號R01832, https://www.ly.gov.tw/Pages/Detail.aspx?nodeid=6590&pid=223217

[2] 陳煥武、楊秀儀,智慧醫療器材與醫師之注意義務初探(上),成大法學,第 45 期,51-98 頁,2023年06月。

[3] Webb, M. (2019). The impact of artificial intelligence on the labor market. Available at SSRN 3482150.

[4] Beane, M. (2019). Shadow Learning: Building Robotic Surgical Skill When Approved Means Fail. Administrative Science Quarterly, 64(1), 87-123. https://doi.org/10.1177/0001839217751692

[5] Acemoglu, D., & Restrepo, P. (2020). The wrong kind of AI? Artificial intelligence and the future of labour demand. Cambridge Journal of Regions, Economy and Society, 13(1), 25-35.

分享此文

相關文章

專家評論
半導體

台積台股受川普發言連累,台灣應如何回應川普的「保護費」說?

作者:張智程

2024 年 7 月 18 日

專家評論
淨零科技

一位氣候科學家成為墨西哥總統之路:能源自主與綠色轉型的契機?

作者:呂采穎施懿倫

2024 年 7 月 12 日

專家評論
國防科技

烏俄戰場上的小型軍民兩用無人機

作者:吳迪

2024 年 6 月 17 日