人工智慧/機器學習在藥物開發應用的潮流
美國食品藥物管理署 (本報告簡稱美國食藥署) 為回應與日俱增的人工智慧/機器學習 (Artificial Intelligence/Machine Learning, 本報告簡稱 AI/ML) 於藥物開發的應用，於2023年5月發表《人工智慧與機器學習於藥物與生物製品開發的使用 – 討論報告與意見徵詢》，以推動AI/ML的治理並促進公眾利益，本短評將簡介此份報告書以及AI/ML在美國藥物開發扮演的角色，並提供相關建議。
近年美國食藥署的新藥申請中，在開發過程使用AI/ML的送件量顯著增加，並且應用在相當廣泛的藥物開發過程 – 從藥物發現 (drug discovery)到臨床研究，乃至於上市後的安全性監測還有進階藥物生產製造 (advanced pharmaceutical manufacturing)[1]，其可大幅縮短藥物開發的歷程，依據波士頓顧問集團 (Boston Consulting Group) 2022年發佈的報告指出，AI/ML可協助藥物開發約25-50%的時間與成本。[2]在美國，藥物從開發至獲得核準上市，統計需耗時12-15年的時間[3]，這段期間藥廠平均需斥資約25億美金[4]，因此AI/ML成為各藥廠相繼投入的領域。AI/ML被使用於藥物開發的案例，如英國AI製藥公司BenevolentAI使用AI技術發現原先用於治療類風溼性關節炎的藥物baricitinib，可作為治療新冠病毒的療法，並且更進一步辨別可與此藥物組合使用的抗病毒或抗發炎藥物，提升療法的效用。
美國食藥署對於AI/ML在藥物開發應用的回應
美國食藥署為因應此AI/ML應用的潮流，在2023年5月發表《人工智慧與機器學習於藥物與生物製品開發的使用 – 討論報告與意見徵詢》 (“Using Artificial Intelligence & Machine Learning in the Development of Drug and Biological Products – Discussion Paper and Request for Feedback”)[5]，與各相關部門與組織溝通並探討使用AI/ML在藥物及生物製劑開發應用的考量。美國食藥署在此份報告中，強調其擔任整合意見、推動AI/ML的創新同時兼俱安全與有效性，並推動AI/ML的治理及促進公共利益的角色。
美國食藥署討論報告的三大重點與核心精神
此份討論報告中含蓋了三大重點，包括(1) 現今與潛在的AI/ML使用；(2) 使用AI/ML工具時的考量；以及(3) 未來發展與相關利害關係人的參與。第一部份匯整了AI/ML在藥物開發中被廣泛應用的範圍，包括藥物開發各環節，從藥物標的識別與篩選，至體內/外的非臨床研究，到臨床研究與上市後的藥物監控。在第二部份中，美國食藥署提出了其對於AI/ML作為藥物開發工具的必要評估，例如AI/ML演算法可能會放大資料來源中既存的錯誤和偏見，且當把AI/ML運算結果應用到不同於測試環境情境時，將存在普遍性 (generalizability) 和倫理的限制。此外，AI/ML本身的複雜性，以及藥廠方出於商業利益與專利考量，許多資訊並無法公開，造成監管的困難。最後，報告概述AI/ML應用時必要的考量和良好實踐 (good practice)，並提出問題以徵求利害關係人對這些考慮的回饋，而問題聚焦在(1) 如何達成人類主導的治理、問責與透明度 (Human-led governance, accountability, and transparency)；(2) 如何確保數據的品質、可靠性和代表性 (Quality, reliability, and representativeness of data)；(3) 模型開發、效能、監控與驗證。
有別以往靜態、規定式的指引報告，此份報告著重在政府與不同利益關係人 (stakeholders) 之間的溝通、討論、相互學習的基調，也鼓勵不同的利益相關單位，例如商業組織、學術團體、醫療健康體系、病人團體、公共衛生單位由不同角度給予建議。截至2023年12月，美國食藥署已經收到超過65個機構送出的意見回饋[6]，其中也包括機構期盼美國食藥署能給予更確實的監督細節，以及創造更緊密公私部門合作的機制。
人類與科技的互動，也是一大討論的重點，像是如何在系統中建立人類可以查核的機制，確保AI/ML給予的結果可信且具解釋性。另一方面，建立跨領域的專業團隊也是諸多意見回饋報告都有指出的迫切需求[7]。現行的AI/ML使用與治理，需要給予AI/ML資料與反饋，才能訓練出更完善的模型。然而，這些重要的資料與環節，在現行的分工體系中隸屬於不同部門單位，例如學術界使用AI/ML預測合宜的藥物標的，藥廠較可能擁有驗證此模型所需的臨床資料，並且藥廠得同時考量專利問題與同業競爭，許多資料並無法開放提供驗證。如何讓不同的利益關係人能有長期永續的合作關係，可能是美國食藥署未來需要研擬的方向。
歐洲藥品局的AI/ML使用建議
繼美國食藥署發佈AI/ML在藥物開發應用的考量討論報告，歐洲藥品局 (European Medicines Agency, EMA) 與藥品監管機構負責人組織(Heads of Medicines Agencies, HMA) 也合作表佈了一份反思報告 (reflection paper)[8]，並制定工作計劃。由2024年開始歐盟人工智慧法案制定的準備工作，預期在2028年能有完整的規範及使用AI/ML於醫療產品，讓AI能以負責且有益的方式被使用。歐洲藥品局強調病人安全與資料開發的可靠性為其首要的考量，並提出三大重點：(1) 風險為本的監督 (risk-based oversight)，意旨AI/ML的使用及開發者必需積極主動地定義AI/ML可能會造成的風險為何，並且提出在使用過程中要如何監控這些風險；(2) 建立強健的AI使用監管系統；(3) 建立資料可性度、透明性、病人安全監控的指引。第一階段也與美國食藥署相同，先向相關利益單位徵詢建議，後續的工作目標為建議有效的AI/ML使用框架，讓AI/ML能有效地被使用，並能提升對數據理解、分析，以及決策支援，同時確保其使用能遵守資料保護的規範。美國食藥署與歐洲藥品局皆希望以討論報告刺激更多討論，並讓相關利益人能遞送意見給予參考。美國食藥署更將討論報告當成促進各方團體的討論，不僅限於藥物開發與製造方，其也在報告中針對美國食藥署在討論AI/ML的應用與監管上面對的困難與問題提出給讀者進行回饋。而歐洲藥品局的報告書則比較傾向給予大原則，受眾較給予實際應用AI/ML在藥物開發與製者者。以下便針對兩份討論報告進行比較。
表一、美國食藥署與歐洲藥品局討論報告比較
| 美國食藥署版本 | 歐洲藥品局版本 | |
| AI/ML應用範圍 | 使用於人類的藥品及生物製品從開發到上市後監控的過程，也包括用於藥物製造的醫療器材。 | |
| 報告受眾 | 藥物開發者、製造者、管理者、學術機構以及其他利益相關人。 | 較針對製藥相關產業及機構，較少討論不同利益關係人之間的合作與溝通。 |
| 討論主題 | (1) 如何達成人類主導的治理、問責與透明度 (Human-led governance, accountability, and transparency)。 (2) 如何確保數據的品質、可靠性和代表性 (Quality, reliability, and representativeness of data) (3) 模型開發、效能、監控與驗證 | 提出AI/ML使用規範上的方針： (1) 風險為本的監督 (risk-based oversight) (2) 建立強健的AI使用的監管系統 (3) 建立資料可性度、透明性、病人安全監控的指引。 (4) 資料保護必需遵守資料保護的法律規範及倫理。 (5) 倫理及可信賴的AI：強調AI/ML的使用及開發必需遵守「以人為本」的宗旨，並確保有人類主導及監控、技術上的安全、隱私與資料管理的完整、透明度、問責 (accountability)、確保社會及環境的福祉、多元、公平及非歧視。 |
| 其他 | 強調不同面向、利益團體的討論，美國食藥署在報告中有提出許多問題給予讀者提出回覆。 | 報告多給予對AI/ML應用上希望使用者考量的大原則。 |
結語
美國食藥署及歐洲藥品局對於未知與不確定性高、具有高度專業性議題，採取意見徵求作為第一步的方式，可以提供臺灣政府參考，在面對諸多不確定性的AI/ML使用議題時能初步採取的措施；(2) 跨領域、跨部門、公私部門的合作，在美國食藥署發佈的報告中不斷被強調。有鑑於AI/ML與藥物開發皆是高度專業的領域，但其會影響的範圍廣泛至全民，也因此建立長期穩定且能互惠的溝通與合作模式，將是設計治理模式的重點。
短評使用之專有名詞中英文對照
- 人工智慧/機器學習 (本報告簡稱AI/ML；Artificial intelligence / machine learning)
- 美國食品與藥物署 (本報告簡稱美國食藥署；U.S. Food and Drug Administration, FDA)
- 歐洲藥品局 (European Medicines Agency, EMA)
- 藥物發現 (Drug discovery)
- 進階藥物生產製造 (Advanced pharmaceutical manufacturing)
- 普遍性 (Generalizability)
- 藥品監管機構負責人組織(Heads of Medicines Agencies, HMA)
- 風險為本的監督 (Risk-based oversight)
- 問責 (Accountability)
[1] 進階藥物生產製造 (advanced pharmaceutical manufacturing)：泛指可以提升產品品質、改良藥物缺點、加速上速的新興的醫療產品製造技術。資料來源：請參考。
[2] https://web-assets.bcg.com/86/e5/19d29e2246c7935e179db8257dd5/unlocking-the-potential-of-ai-in-drug-discovery-vf.pdf
[3] Paul, S. M., Mytelka, D. S., Dunwiddie, C. T., Persinger, C. C., Munos, B. H., Lindborg, S. R., & Schacht, A. L. (2010). How to improve R&D productivity: the pharmaceutical industry’s grand challenge. Nature reviews Drug discovery, 9(3), 203-214.
[4] DiMasi, J. A., Grabowski, H. G., & Hansen, R. W. (2016). Innovation in the pharmaceutical industry: new estimates of R&D costs. Journal of health economics, 47, 20-33.
[6] https://news.ashp.org/news/midyear/2023/12/04/ai-and-machine-learning
[7] https://www.gao.gov/assets/gao-20-215sp.pdf
[8] European Medicines Agency. (2021, August 16). Artificial Intelligence in Medicine Regulation. European Medicines Agency.
[9] 相關閱讀：https://www.abtosoftware.com/blog/artificial-intelligence-for-facilitated-drug-discovery
