客户、合作伙伴和监管机构愈发要求企业公开 AI 运行逻辑,并且提供 AI 相关市场宣称的佐证材料,通常包括关于数据使用、模型透明度、系统性能以及人工监督的声明。通过清晰的沟通和第三方评估来展示负责任的 AI 实践,有助于各组织实现品牌差异化并增强用户信心。长期遵循公认的 AI 安全准则,能够进一步巩固信任。
满怀信心地推进负责任的人工智能采用与部署
人工智能技术持续迭代升级,各组织在平衡创新发展与合规责任方面面临的压力日益增大。随着人工智能深度融入各类产品与系统,清晰的安全、治理、透明化预期要求有助于降低不确定性,支持组织做出有理有据的决策。
UL Solutions 整合安全科学体系、标准专业能力与第三方评估服务,协助各组织应对这一格局。无论团队是尚处在 AI 应用场景探索初期,还是已经落地规模化部署,一套系统化的 AI 安全与管理方法,都有助于支持市场准入和长期韧性。
AI 趋势、机遇与风险
商业领域人工智能:落地应用与实际场景
人工智能(AI)正日益被嵌入产品、软件和运营中,以支持决策、规律识别与自动化。各组织纷纷探索如何利用智能化产品与系统来提升效率、削减人工工作量并打造全新的客户体验。与此同时,AI 对信任体系提出了全新预期,涵盖数据隐私、监督和负责任的使用,其严苛程度超出了传统软件与数据项目的常规管控标准。
跨行业机遇
AI 技术已广泛应用于各行各业,质量管控、预测性维护、工艺优化、用户个性化服务等功能,逐步嵌入现有产品与工作流程内。随着应用规模扩张,各组织不再局限于试点试验阶段,开始聚焦如何充分挖掘 AI 价值,以及如何在适当监督下进行部署。
这一行业转变带来了明确的机遇。能够有效管理、监控和扩展 AI 的组织,可将 AI 更深入地整合到各个团队和运营中,减少落地阻力,并从试点项目过渡到持续执行。
为何信任与可靠性至关重要
随着 AI 在客户和监管机构面前日益受到关注,信任已成为一项实际要求。问责机制和透明度有助于各组织降低合规风险,并为 AI 系统的性能设定明确的预期。
在 UL Solutions,我们通过培训、咨询和独立第三方评估,为 AI 安全提供支撑。作为一家全球性的测试、检验与认证(TIC)机构,我们助力制造商依据既定的安全预期评估 AI 系统——在全球各市场为您的产品建立公信力。
持续演变的 AI 监管格局
随着 AI 在各类产品、服务和系统中的落地速度持续加快,监管格局也在同步快速演变。全球层面尚无统一的 AI 通用法规,但各国正陆续出台多项合规要求,对 AI 的设计、治理与全流程评估形成硬性约束。了解这一格局有助于团队预判风险、调整内部实践,并在要求不断完善的过程中避免意外。
欧盟(EU)《人工智能法案》
欧盟(EU)《人工智能法案》引入了基于风险的框架,依照 AI 的使用方式和使用场景规定了不同的义务。高风险 AI 系统需要额外满足风险管理、文档留存、人工监督及上线后持续监测等预期要求。即使是在欧盟境外运营的各组织,如果其人工智能产品或服务进入欧洲市场,同样可能受到影响。
《通用数据保护条例》(GDPR)
《通用数据保护条例》(GDPR)持续影响着各组织在 AI 系统中收集、使用和保护数据的方式。与数据保护、透明度和问责制相关的要求直接适用于并塑造着 AI 的开发和部署,特别是在系统依赖个人数据或自动化决策的情况下。
美国国家标准与技术研究院(NIST)人工智能风险管理框架(RMF)
美国国家标准与技术研究院(NIST)发布的《人工智能风险管理框架》(RMF)为识别、评估和管理 AI 相关风险提供了自愿性指导。该框架强调在 AI 全生命周期内实施治理、技术保障措施和持续监控。文件虽不属于法规,但现已被业界普遍视作负责任 AI 实践的通用基准。
对接国际标准
在监管活动的同时,国际标准机构也在持续制定关于 AI 安全、治理和可靠性的指导。各类标准编制工作体现了一个共同目标:支持创新的同时,降低意外危害的发生概率。各组织对接现行法规、治理框架、国际标准,有助于采取统一的风险治理与监督管理模式,从而在 AI 系统不断演进和扩展的过程中,促进互操作性、明确预期并增强各方信任度。
我们助力客户应对的常见挑战
随着各组织持续探索和部署 AI,各行业正逐渐暴露出一些反复出现的规律。AI 的采用步伐迅速,而围绕安全、合规和信任的预期则演变得较为缓慢。许多团队需要协助,将高层次的原则和监管指导转化为切实可行的日常决策,兼顾创新与风险管控。
内部 AI 安全专业能力有限
AI 会衍生技术、伦理、治理多重考量,许多组织仍处在经验积累阶段。团队可能拥有强大的数据科学或工程能力,但欠缺 AI 安全标准、评估方法、全生命周期治理的相关经验。这类能力缺口会拖慢进度,造成不确定性,并使评估 AI 系统是否按预期运行变得更加困难。
应对合规与市场准入
随着 AI 法规和标准的出台,各组织必须解读新要求如何适用于其产品和市场。围绕 AI 合规性、文档编制和测试要求的问题可能会影响产品上市速度以及对部署决策的信心。若无法精确匹配持续更新的法规要求,团队将面临返工、项目延期或各地区执行标准不一致的风险。
打造品牌差异化,筑牢用户信任
UL 3115
UL 3115 是《人工智能产品安全调查大纲(OOI)》。文件提供一套结构化方法,用于评估涵盖广泛产品和系统(包括具备 AI 功能的产品和系统)的 AI 安全性。UL 3115 不局限于单一技术或应用场景,而是采用横向方法,可与现有的产品安全标准并行使用。
UL 3115 覆盖范围
UL 3115 通过技术、伦理和治理方面的考量来处理 AI 安全问题,考察 AI 系统的设计、开发和部署方式,并关注其在真实工况下的运行状态。覆盖 AI 全生命周期内的稳健性、风险管理、透明度、数据处理及监督等要素。
我们的 AI 安全认证如何运作
我们依据 UL 3115 开展独立的第三方评估,以评估某款基于 AI 的产品或系统是否针对其预期用途和风险特征实施了适当的安全措施。这套评估模式可考察设计、治理、常态化监督中的安全管控措施,以及系统的实际运行表现,同时结合底层算法和架构对结果进行核验。这套方法可客观判定系统的可靠性、可预测性和韧性,可助力各组织展示,随着系统的演进和扩展,AI 安全考量已贯穿整个产品生命周期。
治理、文档记录与生命周期
AI 系统会持续迭代升级,因此治理和文档记录至关重要。UL 3115 规范企业在 AI 全生命周期内完成变更管理、记录维护、性能监测工作,包含预测未来状态、追踪风险以及支持问责机制。
AI 管理、市场宣称验证与培训
许多组织在开发基于 AI 的产品时,除了需要符合相关标准和法规外,还需获得更多支持。AI 管理侧重于 AI 系统长期管理方式,包括如何维持安全与性能预期、如何传达与 AI 相关的市场宣称,以及团队如何培养负责部署和持续监督所需的技能。
认识我们的专家
常见问题
- 什么是 UL 3115?该标准如何适配基于 AI 的产品?
UL 3115 是针对基于 AI 的产品安全的调查大纲(OOI)。它提供了一种结构化的方法,用于评估各类产品和系统中的 AI 安全性,重点关注 AI 的设计、开发和部署方式,而非具体的算法或应用场景。
- UL Solutions 的 AI 安全认证流程是如何运作的?
通过遵循 UL 3115 标准的 AI 安全认证,UL Solutions 进行独立的第三方评估,以评估基于 AI 的产品是否根据其预期用途和风险特征实施了适当的安全措施。该评估侧重于要求和证据,而设计和运营的责任仍由组织承担。
- UL 3115 与 NIST AI RMF 二者如何互补?
UL 3115 和 NIST AI RMF 从互补的角度探讨 AI 安全。NIST 框架面向企业组织层面,提供全生命周期 AI 风险识别和管控的非强制性指导。UL 3115 将上述理念应用于产品层面,提供了一个结构化的框架,用于评估特定的基于 AI 的产品是否符合其预期用途所定义的安全预期。结合使用 UL 3115 和 NIST AI RMF 可以助力各组织一致地管理 AI 风险,并在实践中展示产品层面的安全性。
- UL 3115 与 ISO/IEC 42001 有何区别?
ISO/IEC 42001 是针对 AI 管理体系的组织级标准。它规定了治理、政策、角色和流程的要求,指导各组织如何在其各项活动中开发、部署和管理 AI。
相比之下,UL 3115 规定了安全要求,并为基于 AI 的产品的更安全设计、开发和部署提供指导。它涵盖以下与治理相关的 AI 安全原则:数据收集与数据分析、文档编制与报告、生命周期管理、问责机制、管控监督、透明性与可解释性。这些原则将用于评估特定基于 AI 的产品对于其预期用途是否安全。- AI 安全认证与市场宣称验证(MCV)有何区别?
AI 安全认证评估基于 AI 的产品是否符合根据其预期用途和风险特征所定义的安全预期,而 MCV 侧重于通过客观、基于科学的评估,验证与算法可重复性、数据隐私和模型透明度相关的特定 AI 市场宣称的准确性。虽然两者都基于共同的 AI 安全原则,但它们服务于不同的目的。
- 各组织如何落实 AI 生命周期治理和文档记录?
落实 AI 生命周期治理,需要搭建从设计到部署及后续阶段的监督、文档记录和监控标准化流程。这包括定义角色、管理变更以及维护记录,以支持 AI 系统随时间演进过程中的问责机制。
- UL Solutions 是否可为汽车、医疗等安全关键系统内的 AI 提供配套服务?
可以,UL Solutions 可以评估多种基于 AI 的产品和系统,包括在安全关键环境中运行的系统。适用的方法取决于与特定应用相关的预期用途、风险特征和监管预期。
- AI 管理和市场宣称验证如何助力建立 AI 信任度?
AI 管理和市场宣称验证可助力各组织在法规合规基础之上,对外展示负责任的 AI 实践。第三方验证以及关于 AI 系统特性和所做宣称的清晰沟通,可助力减少不确定性,并增强与客户、合作伙伴和监管机构之间的信任度。
与我们的团队建立联系
探索我们针对 AI 产品的服务方案——欢迎与我们沟通定制化解决方案。