의료 제품, 진단 절차 및 임상 의사결정 시스템은 특히 기술 발전이 시장에 도입됨에 따라 정확성과 안전성 사이의 균형을 유지해야 합니다. 인공지능(AI)은 의료계가 이 두 가지에 대해 갖는 인식을 지속적으로 재편하고 있으며, 신기술이 환자 치료에 더욱 깊이 통합됨에 따라 전 세계 규제 당국은 안전성, 투명성 및 책임성에 대한 기대치를 높이고 관련 요건을 마련함으로써 이에 대응하고 있습니다. 현재 채택되어 단계적으로 발효되고 있는 유럽연합(EU)의 AI법은, 일부 기술적 이행 세부 사항이 여전히 발전하고 있음에도 불구하고, 단순한 목표에서 실질적인 집행 단계로의 전환을 시사합니다.
이러한 새로운 규정은 환자 안전을 강화하는 동시에 제조업체에 책임을 부여하는 중요한 조치입니다. 최종 규제 세부 사항을 기다리는 것은 더 이상 실효성 있는 전략이 아닙니다. 준비를 미루는 기업은 시장에서 추진력을 잃을 위험이 있습니다. 경쟁 우위를 확보하려면 관련 요건이 공식적으로 시행되기 전에 AI 기반 의료 제품의 준비 상태, 제어 능력 및 신뢰성을 선제적으로 입증해야 합니다.
EU AI법에 대한 간략한 개요
EU AI법은 AI 시스템이 초래할 수 있는 피해 가능성에 따라 이를 분류하는 엄격한 위험 기반 체계를 도입하고 있습니다. 이러한 체계 하에서, AI가 적용된 대부분의 의료 제품은 고위험 범주에 속하게 되며, 이로 인해 제조업체는 EU 시장에 진출하기 전에 충족해야 할 포괄적인 법적 및 기술적 의무 사항을 부담하게 됩니다.1 그러나 이 법규는 기존의 규제 체계를 대체하는 것이 아니라 보완하는 역할을 한다는 점을 이해하는 것이 중요합니다. 이러한 규제 체계에는 다음이 포함됩니다.
- 의료기기 규정(MDR)
- 체외진단 의료기기 규정(IVDR)
- 일반 개인정보 보호규정(GDPR)
이 새로운 법안은 알고리즘 드리프트, 데이터 편향, 설명 가능성 부족 등 AI 특유의 위험에 대한 감독 범위를 확대합니다.1 일부 이행 지침, 실천 규범 및 조화된 표준은 여전히 발전하고 있지만, AI법의 규제 의무와 적용 일정은 이제 확고히 정립되었습니다. 그 신호는 분명합니다. AI의 책임성은 미래의 목표가 아니라 기본적인 요구 사항입니다. 그리고 지금이야말로 중요한 진전을 이뤄야 할 때입니다.
타임라인 파악하기: 단계적 시행, 높아지는 기대치
EU AI법은 단계별 일정에 따라 시행되고 있습니다. 독립형 고위험 AI 시스템(부속서 III)에 대한 규정 준수 기한이 2026년 8월 2일에서 2027년 12월 2일로 연장되었습니다. 의료기기 및 체외진단기기(IVD)를 포함하여 부속서 I에 따른 규제 대상 제품에 내장된 고위험 AI 시스템의 경우, 적용 기한이 2027년 8월 2일에서 2028년 8월 2일로 연기되었습니다.
EU AI법에 따라 수립된 단계적 이행 모델은 다양한 산업 분야에 걸쳐 대규모로 AI 거버넌스를 운영에 적용하는 데 따르는 복잡성을 반영하는 구조를 제시합니다. AI 기반 의료 제품 제조업체의 경우, 이러한 접근 방식은 점진적인 도입을 가능하게 하지만, 규제 집행의 일시 중단을 의미하는 것은 아닙니다. 규제 중점 분야와 시장 감시는 이미 다음 세 가지 핵심 축을 중심으로 더욱 강화되고 있습니다.
- AI 위험 관리 및 기술 문서 – 알고리즘 오류를 식별하고 완화하기 위한, 수명 주기 전반에 걸친 지속적인 프로세스를 수립합니다.
- 적합성 평가 대비 – AI 관련 규정 준수 의무를 기존 제품 규정 준수 프로세스 및 품질 관리 시스템(QMS)에 직접 통합합니다.
- 시판 후 모니터링 – 이상 사례 보고, 피드백 루프 및 지속적인 성능 감독을 위한 체계를 구축합니다.
오늘 진행되는 설계, 문서화 및 거버넌스 관련 결정들은 개정된 적용 시기가 다가옴에 따라 적합성 평가 준비 상황과 시장 진입에 직접적인 영향을 미칠 것입니다. 완벽한 명확성을 기다리는 조직은 수년에 걸친 기초적인 엔지니어링 및 문서화 작업을 수개월에 걸친 사후 대응적이고 스트레스가 심한 업무로 압축해 버릴 위험이 있습니다.
AI법을 준수할 준비
EU AI법에 따른 규정 준수는 투명성과 성능을 지속적으로, 역동적으로 입증하는 과정입니다. 2차 지침이 지속적으로 발전하고 있는 상황에서도, 제조업체와 공급업체는 여러 핵심 분야에 걸쳐 객관적이고 검증 가능한 증거를 제시할 수 있어야 합니다.
핵심 규정 준수 증빙 자료
모든 의도된 사용 조건에서 예측 가능하고 견고한 AI 성능 – 제조업체는 단순히 실험실 수준의 성능 지표에 머물지 않고, 실제 임상 환경에서도 자사의 모델이 높은 수준의 정확성, 견고성 및 사이버 보안을 유지한다는 것을 입증해야 합니다. 이를 위해서는 다음 사항에 대한 문서화된 증거가 필요합니다.
- 스트레스 시험과 극한 사례
- 드리프트 모니터링 지표
- 하드웨어 상호운용성
편향 위험이 파악되고 완화된, 체계적으로 관리되는 데이터 파이프라인 – 고위험 AI 의료 제품은 초기 데이터 수집부터 배포에 이르는 전체 데이터 수명 주기 전반에 걸쳐 엄격한 데이터 거버넌스 관행이 요구됩니다. 규제 당국의 기대에 부응하기 위해서는 기술 문서에서 데이터 출처, 품질 및 투명성은 물론, 편향 탐지, 개인정보 보호 규정 준수 및 완화 체계도 명확히 제시해야 합니다. EU AI법 제10조는 제공자가 민감한 데이터를 수집하고 사용할 수 있도록 허용하고 있으나, 해당 조항의 문언은 이러한 정보의 민감한 특성을 보호하면서 편향 제거를 가능하게 하기 위한 편향 탐지 및 시정에 명확히 초점을 맞추고 있습니다.2
명확한 인간 감독 메커니즘 및 추적 가능한 의사결정 논리 – EU AI법의 제14조는 AI 시스템이 인간이 그 기능을 감독할 수 있도록 설계되어야 하며, 이러한 감독은 시스템의 위험성과 용도에 부합해야 한다고 명시하고 있습니다.2 의료 제품 설계자에게 이는 의료진이 AI의 출력 결과나 권장 사항을 이해하거나, 무시하거나, 무효화하거나, 되돌릴 수 있도록 명시적으로 권한을 부여하는 사용자 인터페이스와 로깅 프로토콜을 내장해야 함을 의미합니다.
전체 제품 수명 주기 전반에 걸쳐 안전하고 복원력이 뛰어난 AI 구성 요소 – AI 기반 의료기기는 운영 장애, 하드웨어 결함 및 악의적인 공격에 대해 본질적으로 복원력을 갖추어야 합니다. 이러한 노력을 뒷받침하는 것은 위험을 최소화하는 사이버 보안, 수명 주기 관리 및 안전 장치 지침입니다.
이러한 과도기 동안 조직은 문구의 표면적인 의미에만 그치지 않고, 그 이면에 깔린 안전 과학의 원칙인 견고성, 비차별성 및 정확성을 고려해야 합니다.
제조업체가 지금부터 대비할 수 있는 방법
시장을 선도하는 기업들은 규제 불확실성을 주저할 이유가 아니라 조기에 대응할 계기로 삼는 경우가 많습니다. UL Solutions에서는 향후 요구 사항에 대비하면서 견고한 규정 준수 체계를 구축하는 데 도움이 될 수 있기 때문에, 이러한 접근 방식을 적극 권장합니다.
AI법의 요건이 대부분의 AI 기반 의료기기에 적용되기 전에, 제품 포트폴리오 전반에 걸쳐 모든 AI 시스템을 파악하고 분류하여 법적 리스크를 파악할 수 있습니다. 이를 통해 비즈니스의 어떤 부분이 영향을 받을 수 있는지 종합적으로 파악할 수 있습니다. 또한, 예상되는 고위험 AI 요구 사항 및 관련 의료기기 의무 사항에 비추어 현재의 엔지니어링 관행과 문서를 평가하여, 향후 장애물이 될 수 있는 현재의 격차를 파악해야 합니다.
또한 데이터와 이를 둘러싼 프로세스에 대한 검토도 이루어져야 합니다. 데이터 거버넌스, 위험 관리 및 알고리즘 모니터링을 기존의 ISO 13485 품질 수명 주기와 소프트웨어 개발 워크플로에 통합하기 시작할 수 있습니다. 이 과정의 일환으로, 설계 단계 초기에 훈련 데이터의 품질과 모델 성능을 평가해야 합니다.
AI법 대비에 있어 독립적인 평가가 중요한 이유
독립적인 평가는 새로운 요구 사항과 표준이 등장함에 따라 모호한 규제 환경을 헤쳐 나가는 데 필요한 객관성, 일관성 및 확신을 제공하는 데 도움이 됩니다. 제3자 검증은 인증 기관에 서류를 제출하기 전에 AI의 안전성, 견고성 및 수명 주기 위험에 대해 공정한 평가를 제공함으로써 개발 파이프라인의 위험을 줄이는 데 도움이 됩니다. 또한 독립적인 평가를 활용하면 내부 프로세스를 ISO/IEC 420013과 같은 국제적으로 인정받는 모범 사례 표준에 부합하도록 할 수 있습니다. 이러한 선제적인 조정은 규제 당국, 인증 기관, 의료 서비스 제공자 및 환자와의 신뢰를 구축하는 데 도움이 됩니다.
UL Solutions는 수십 년에 걸친 안전 과학 분야의 전문 지식을 바탕으로 AI 기반 기술에 대한 평가를 수행합니다. 이러한 경험을 바탕으로 당사는 복잡한 규제 환경의 변화 속에서도 고객사의 책임 있는 혁신을 지원할 수 있습니다. AI 기반 제품의 안전성 조사 개요인 UL 3115와 같은 프로그램은, AI 기반 의료 제품에 대한 규제 기준이 구체화됨에 따라 제조업체가 안전성, 성능 및 관련 요구 사항을 준수하고 있음을 입증하는 데 도움이 됩니다.
규제 대비에서 시장 선도까지
강력한 AI 거버넌스를 입증하는 것은 입법 일정에 관계없이 강력한 신호를 보내며, 위험 회피 성향이 강한 조달 부서의 망설임을 극복하는 데 도움이 됩니다. 또한 초기 투자를 통해 인증 기관과의 협력 관계를 더욱 공고히 하고 긴밀히 협력함으로써, 승인 절차를 간소화하는 일에도 도움을 줄 수 있습니다. 즉 지금 조치를 취한다면 EU AI법 요건을 준수하는 데 도움이 될 뿐만 아니라, 의료 분야에서 신뢰할 수 있는 AI의 모습을 정립하는 데에도 기여할 것입니다.
조기 대응이 AI 경쟁력을 좌우
EU AI법은 이미 AI 기반 의료 제품의 운영 현실을 변화시켰습니다. 개정된 준수 기한이 도래하기 전의 기간은, 관련 요건이 발효되기 전에 조직이 거버넌스, 문서화, 위험 관리 및 시판 후 모니터링 역량을 강화할 수 있는 기회를 제공합니다. 그러나 이 타임라인을 규정 준수 노력을 잠시 중단하거나 내부 변화를 미룰 기회로 여겨서는 안 됩니다. 규제가 완전히 시행되기 전에, 지금이야말로 내부 프로세스와 제품을 더 깊이 이해할 때입니다. 규정 준수가 차별화 요소로 자리매김하는 가운데 적절한 체계, 견고한 거버넌스 기반, 그리고 독립적인 안전 과학 지원을 통해 규제 불확실성을 운영상의 명확성으로 전환할 수 있습니다.
지금 바로 UL Solutions에 문의하여 AI 도입 준비 상태를 평가하고, 향후 규제 변화에 대비해 규정 준수를 관리할 수 있도록 조직을 정비하세요.
References
유럽의회. (2024). 인공지능법. 인공지능(AI)에 대한 규제 체계. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
van Bekkum, M. (2,025). Using sensitive data to de-bias AI systems: Article 10(5) of the EU AI act. Computer Law & Security Review, 56, 106,115 https://doi.org/10.1016/j.clsr.2025.106115
국제표준화기구. (2023). 정보 기술 — 인공지능 — 관리 시스템 (ISO/IEC 표준 제42001:2023호).
UL Solutions 영업 팀에 문의하세요
UL Solutions의 제품과 서비스에 관심을 가져 주셔서 감사합니다. 담당자와 연결해 드릴 수 있도록 몇 가지 정보를 확인하겠습니다.