醫療產品、診斷流程與臨床決策系統必須兼顧精準度與安全,尤其是在新興技術持續進入市場之際。人工智慧(AI)持續重新塑造業界對精準度與安全的理解;隨著新興技術更深入整合至病患照護中,全球法規主管機關也正提高對安全、透明度與問責機制的期待,並制定相關要求。歐盟(EU)人工智慧法案已正式通過並逐步生效,象徵 AI 治理正從理念走向實際執法,即使部分技術執行細節仍持續演進。
這些新規範是提升病患安全的重要一步,同時也將更多責任落在製造商身上。等待所有法規細節完全定案,已不再是可行的策略。延後準備的企業,可能因此失去市場動能。要建立競爭優勢,關鍵在於相關要求正式執行前,主動展現具備 AI 功能之醫療產品的準備度、控制能力與可信度。
歐盟人工智慧法案概述
歐盟人工智慧法案建立嚴謹的風險導向架構,依據 AI 系統可能造成危害的程度進行分類。在此架構下,多數具備 AI 功能的醫療產品會歸類為高風險類別,因此製造商在進入歐盟市場前,必須符合一系列完整的法律與技術義務。1然而,必須了解的是,此法案是補充而非取代既有法規架構。這些架構包括:
- 醫療器材法規(MDR)
- 體外診斷醫療器材法規(IVDR)
- 一般資料保護規定(GDPR)
這項新法案進一步將監督範圍延伸至 AI 特有風險,例如演算法漂移、資料偏誤與缺乏可解釋性。1雖然部分實施指引、實務規範與調和標準仍持續演進,但人工智慧法案的法規義務與適用時程現已明確建立。訊息十分明確:AI 的責任歸屬已是基本要求,而非未來願景。現在正是採取具體行動的時候。
了解時程:分階段執行與日益提高的要求
歐盟人工智慧法案採分階段時程實施。獨立式高風險 AI 系統(附件 III)的法規遵循期限已由 2026 年 8 月 2 日延後至 2027 年 12 月 2 日。對於附件 I 所涵蓋、嵌入受規範產品中的高風險 AI 系統,包括醫療器材與體外診斷(IVD)器材,其期限已由 2027 年 8 月 2 日延後至 2028 年 8 月 2 日。
歐盟人工智慧法案所建立的分階段實施模式,反映了在不同產業中大規模落實 AI 治理的複雜性。對具備 AI 功能的醫療產品製造商而言,此方式可讓企業逐步落實相關要求,但並不代表執行暫停。目前法規關注與市場監督已逐漸聚焦於三大核心支柱:
- AI 風險管理與技術文件——建立涵蓋整個生命週期的持續性流程,以識別並降低演算法故障風險。
- 符合性評估準備度——將 AI 特有的法規遵循義務直接整合至既有產品法規遵循流程與品質管理系統(QMS)中。
- 上市後監控——建立事故通報、回饋循環與持續性能監督機制。
隨著更新後的適用日期日益接近,現階段所做的設計、文件與治理決策,將直接影響符合性評估準備度與市場准入。若企業等到所有要求完全明朗後才採取行動,可能被迫將原本需要數年完成的基礎工程與文件作業,壓縮成數個月內高壓且被動的應對工作。
準備因應人工智慧法案的法規遵循要求
歐盟人工智慧法案下的法規遵循,是持續且動態展現透明度與性能的過程。即使次級指引仍持續演進,製造商與供應商仍必須能在多個關鍵領域提供客觀且可供稽核的佐證資料。
核心法規遵循佐證資料
在所有預定使用條件下皆具備可預測且穩健的 AI 行為——製造商不能只依賴實驗室性能指標,而必須證明其模型在真實臨床環境中,仍能維持高度準確性、穩健性與網路資安。這需要提供以下書面佐證:
- 壓力測試與邊界案例
- 漂移監控指標
- 硬體互通性
妥善治理的資料管道,並識別及降低偏誤風險——高風險 AI 醫療產品需要在整個資料生命週期中採取嚴謹的資料治理實務,從最初的資料匯入一路涵蓋至部署階段。為符合相關法規要求,您的技術文件必須清楚說明資料來源、品質與透明度,以及偏誤偵測、隱私法規遵循與風險降低架構。歐盟人工智慧法案第 10 條允許提供者蒐集與使用敏感資料,但條文重點明確放在偏誤偵測與修正,以便在保護此類資訊敏感性的同時進行去偏誤處理。2
明確的人為監督機制與可追溯的決策邏輯——法案第 14 條規定,AI 系統的設計必須讓人員能監督其功能,而監督程度也必須與系統風險及用途相符。2對醫療產品設計人員而言,這代表必須在產品中導入使用者介面與記錄機制,讓醫療照護人員能明確了解、忽略、覆寫或撤銷 AI 的輸出或建議。
在整個產品生命週期中維持安全且具韌性的 AI 組件——具備 AI 功能的醫療器材本身必須具備足夠韌性,以抵禦營運故障、硬體故障與惡意攻擊。網路資安、生命週期管理,以及可將風險降至最低的故障安全指示,都能支援這項目標。
在整個過渡期間,企業不能只著眼於法規文字本身,也必須理解其背後所依循的安全科學原則,包括穩健性、非歧視性與準確性。
製造商現在可以如何準備
市場領導者通常會將法規不確定性視為提早行動的契機,而不是等待的理由。UL Solutions 鼓勵採取這種方式,因為在準備因應未來要求的同時,也有助於建立穩健的法規遵循基礎。
在人工智慧法案的相關要求適用於多數具備 AI 功能的醫療器材之前,您可以先識別並分類產品組合中的所有 AI 系統,以判斷可能涉及的法律風險。如此可協助您全面了解企業中哪些部分可能受到影響。您也應將現有工程實務與文件,和預期的高風險 AI 要求及相關醫療器材義務進行比較,以找出目前可能在日後形成障礙的差距。
此外,也應檢視您的資料及其相關流程。您的企業可開始將資料治理、風險管理與演算法監控,整合至既有 ISO 13485 品質生命週期與軟體開發工作流程中。此流程的一部分,應包括在設計初期評估訓練資料品質與模型性能。
獨立評估為何對人工智慧法案準備工作至關重要
隨著相關要求與標準陸續形成,獨立評估可提供所需的客觀性、一致性與信心,協助您因應仍具不確定性的法規環境。在向公告機構提交文件前,第三方驗證可針對 AI 安全、穩健性與生命週期風險提供公正評估,協助降低開發流程中的風險。運用獨立評估,也能協助內部流程與 ISO/IEC 42001 等國際公認的最佳實務標準接軌。3這種主動接軌的做法,有助於與法規主管機關、公告機構、醫療照護人員及病患建立信任。
UL Solutions 運用數十年的安全科學專業經驗,評估具備 AI 功能的技術。即使法規環境持續複雜演變,這些經驗仍能協助我們支援您推動負責任的創新。隨著具備 AI 功能之醫療產品的法規要求逐漸明朗,UL 3115,AI 產品安全調查綱要等計畫,可協助製造商展現符合安全、性能與其他相關要求。
從法規準備度邁向市場領導地位
展現完善的 AI 治理能力,可向市場傳達強而有力的訊息,不受法規時程限制,並有助於降低重視風險的採購部門對導入 AI 的疑慮。提早投入相關資源,也有助於與公告機構建立更緊密且具協作性的互動,進而簡化核准流程。最終,現在採取行動將有助於您管理歐盟人工智慧法案的法規遵循要求,並為醫療照護產業建立可信賴 AI 的標竿。
提早行動就是 AI 優勢
歐盟人工智慧法案已改變具備 AI 功能之醫療產品的實際營運環境。在修訂後的法規遵循期限到來前,企業仍有機會在相關要求正式適用前,強化治理、文件、風險管理與上市後監控能力。然而,不應將這段期間視為暫停法規遵循工作或延後內部變革的機會。在法規全面適用前,現在正是進一步了解自身流程與產品的時機。透過適當的架構、穩健的治理基礎與獨立安全科學支援,您可在法規遵循逐漸成為市場差異化關鍵之際,將法規不確定性轉化為明確的營運方向。
立即聯絡 UL Solutions,開始評估您的 AI 準備度,並協助企業做好準備,以因應即將到來的法規變革與法規遵循要求。
References
歐洲議會。(2024)。人工智慧法案。AI 法規架構。https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
van Bekkum, M.(2025)。使用敏感資料降低 AI 系統偏誤:歐盟人工智慧法案第 10(5)條。Computer Law & Security Review,56,106115。https://doi.org/10.1016/j.clsr.2025.106115
國際標準化組織。(2023)。資訊技術——人工智慧——管理系統(ISO/IEC 標準第 42001:2023 號)。
立刻聯絡我們的業務團隊
感謝您對我們的產品和服務感興趣,敬請填寫相關資訊,我們將安排對應人員與您洽談。