解读欧盟《人工智能法案》：AI 医疗产品制造商当前行动指南

医疗产品、诊断流程和临床决策系统必须在精准度与安全性之间取得平衡，尤其是在新技术不断涌入市场之际。人工智能（AI）持续重塑着行业对上述两方面的认知；随着新技术愈发深入地融入患者护理，全球监管机构正通过提升对安全性、透明度和问责机制的要求与期望来作出回应。欧盟《人工智能法案》现已正式通过并正逐步生效，这标志着监管方向正从倡议转向执法，尽管某些技术实施细节仍在持续演进。 

这些新法规是提升患者安全的重要举措，同时也加重了制造商的责任。等待最终监管细则已不再是可行之策。准备不足的组织将面临在市场中失去先机的风险。要确立竞争优势，关键在于主动展示贵司 AI 医疗产品在法规正式强制执行前的就绪性、可控性和可信度。 

欧盟《人工智能法案》概述 

欧盟《人工智能法案》引入了一套严格的、基于风险的框架，根据人工智能系统可能造成危害的程度对其进行分类。在此架构下，大多数 AI 医疗产品被划入高风险类别，这意味着制造商在进入欧盟市场前必须满足一整套全面的法律和技术义务。¹然而，需要明确的是，该立法是对现有监管框架的补充，而非替代。这些框架包括： 

• 《医疗器械法规》（MDR） 
• 《体外诊断医疗器械法规》（IVDR） 
• 《通用数据保护条例》（GDPR） 

新法案将监管延伸至 AI 特有的风险领域，例如算法漂移、数据偏见和可解释性不足。¹ 尽管部分实施指南、行为准则和协调标准仍在完善中，但《人工智能法案》的监管义务和实施时间表现已明确。信号十分明确：AI 问责机制是基本要求，而非未来愿景。当下正是采取重大举措的时机。 

理解时间表：分阶段实施，要求逐步升级 

欧盟《人工智能法案》通过分阶段时间表实施。独立高风险 AI 系统（附件 III）的合规截止日期已从 2026 年 8 月 2 日延长至 2027 年 12 月 2 日。对于附件一所列受监管产品（包括医疗器械和体外诊断（IVD）设备）中内嵌的高风险 AI 系统，合规截止日期已从 2027 年 8 月 2 日推迟至 2028 年 8 月 2 日。 

欧盟《人工智能法案》确立的分阶段实施模式提供了一个框架，反映了在跨行业中大规模实施 AI 治理的复杂性。对于 AI 医疗产品的制造商而言，这种方式允许逐步推进，但绝不意味着监管执法会有所松懈。监管重点和市场监督正围绕三大核心支柱日趋聚焦： 

1. AI 风险管理与技术文档——建立贯穿整个生命周期的持续流程，以识别和降低算法故障。 
2. 符合性评估准备——将 AI 特定的合规义务直接整合至现有的产品合规流程和质量管理体系（QMS）中。 
3. 上市后监测——建立事件报告、反馈回路和持续性能监督体系。 

随着更新后的适用日期临近，当前所做的设计、文档编制和治理决策将直接影响符合性评估的就绪状态及市场准入。那些等待细则完全明确的组织，很可能面临将数年基础工程和文档工作，压缩为数月仓促且高压的补救工作。 

为遵守欧盟《人工智能法案》做好准备  

遵守欧盟《人工智能法案》是一个持续、动态地展示透明度和性能的过程。即使配套指南仍在不断演变，制造商和供应商也必须能够在多个关键领域提供客观、可审计的证据。 

核心合规证据 

AI 行为在所有预期使用条件下均可预测且保持稳健——制造商必须超越实验室测试指标，证明其模型在实际临床条件下能够保持高水平的准确性、稳健性和网络安全。这需要以下方面的书面证据： 

• 压力测试及边缘案例 
• 漂移监测指标 
• 硬件互操作性 

数据管道治理完善，偏见风险已识别并得到缓解——高风险 AI 医疗产品要求在整个数据生命周期（从初始采集到部署）中实施严格的数据治理实践。为满足监管期望，您的技术文档必须重点突出数据溯源、质量和透明度，同时涵盖偏见检测、隐私合规及缓解框架。欧盟《人工智能法案》第 10 条允许提供商收集和使用敏感数据，但条款措辞明确侧重于偏见检测与纠正，以在保护此信息敏感性的同时实现去偏见。² 

清晰的人工监督机制和可追溯的决策逻辑——该法案第 14 条规定，AI 系统的设计必须确保人类能够监督其功能，且这种监督必须与系统的风险及使用场景相适应。² 对于医疗产品设计师而言，这意味着需要嵌入用户界面和记录协议，明确授权医疗服务提供者理解、忽略、推翻或撤销 AI 的输出结果或建议。   

在整个产品生命周期中确保 AI 组件的安全性与韧性——AI 医疗器械必须具备固有的韧性，能够抵御运行故障、硬件故障和恶意攻击。网络安全、生命周期管理以及旨在最大限度降低风险的故障安全指令，均为这一目标提供支撑。 

在整个过渡期内，各组织必须超越法规条文本身，着眼于稳健性、非歧视性和准确性等安全科学的基本原则。 

制造商当前如何准备 

市场领导者通常将监管不确定性视为推动早期行动的催化剂，而非观望等待的理由。在 UL Solutions，我们鼓励这种方法，因为它有助于在您为未来要求做准备时奠定坚实的合规基础。 

在《人工智能法案》的要求适用于大多数 AI 医疗器械之前，您可以识别并分类产品组合中的所有 AI 系统，以确定合规风险。这将使您全面了解业务的哪些环节可能受到影响。您还应将当前的工程实践和文档与预期的高风险 AI 要求及相关的医疗器械义务进行对标，以识别可能成为障碍的现有差距。 

此外，还应审查您的数据及其相关流程。您的组织可着手将数据治理、风险管理和算法监控整合到现有的 ISO 13485 质量生命周期及软件开发工作流中。此过程应包括在设计阶段早期对训练数据质量和模型性能进行评估。 

为何独立评估对《人工智能法案》准备至关重要 

随着要求和标准的不断涌现，独立评估有助于提供所需的客观性、一致性和信心，帮助您应对尚不明朗的监管环境。第三方验证可在向公告机构提交文件之前，对 AI 的安全性、稳健性和生命周期风险进行公正评估，从而帮助您降低开发流程中的风险。利用独立评估还能使您的内部流程与国际公认的最佳实践标准（如 ISO/IEC 42001）³ 保持一致。这种主动对齐有助于您与监管机构、公告机构、医疗服务提供者及患者建立信任。 

UL Solutions 运用数十年的安全科学专业知识，对 AI 技术进行评估。这一经验使我们即使在监管要求不断演变的复杂环境下，也能为您的负责任创新提供支持。随着监管机构对 AI 医疗产品的期望日益明确，诸如 UL 3115《基于 AI 的产品安全调查纲要》等项目，可助力制造商展示其是否符合安全、性能及相关要求。 

从监管准备到市场引领 

展示强有力的 AI 治理水平，将释放跨越立法时间表的强烈信号，并有助于克服风险规避型采购部门的顾虑。早期投入还能促进与公告机构建立更紧密、更具协作性的关系，从而帮助简化审批路径。归根结底，现在采取行动将有助于您管理对欧盟《人工智能法案》要求的合规性，并定义医疗领域中“可信 AI”的标准。 

抢先行动是 AI 的优势 

欧盟《人工智能法案》已经改变了 AI 医疗产品的运营现实。在修订后的合规截止日期之前，各组织有机会在要求生效前加强治理、文档管理、风险管理和上市后监测能力。然而，不应将这一时间窗口视为暂停合规工作或推迟内部变革的良机。在法规全面实施之前，现在正是深入理解自身流程和产品的时机。凭借正确的框架、稳固的治理基础以及独立的安全科学支持，您可以将监管的不确定性转变为运营的确定性，使合规成为差异化的关键所在。 

立即联系 UL Solutions，开始评估您的 AI 就绪程度，并助力您的组织为即将到来的监管变化做好合规准备。