교육, 자문 서비스, UL 3115 표준에 부합하는 평가 및 마케팅 메시지 검증 등을 포함한 AI 안전 인증 및 책임 관리에 대한 개요.
인공지능이 지속적으로 발전함에 따라, 혁신과 책임 사이의 균형을 맞춰야 한다는 측면에서 조직이 받는 압박은 점점 더 커지고 있습니다. AI가 제품과 시스템에 점점 더 깊이 통합됨에 따라, 안전성, 거버넌스 및 투명성에 대한 명확한 기대치를 설정하는 것은 불확실성을 줄이고 정보에 입각한 의사결정을 뒷받침하는 데 도움이 될 수 있습니다.
UL Solutions는 안전 과학, 표준 관련 전문 지식 및 제3자 평가를 통합하여 조직이 이러한 환경을 헤쳐나갈 수 있도록 지원합니다. AI의 초기 활용 사례를 모색하는 상황에서도, 이미 성숙 단계에 접어든 AI 시스템을 운영하는 상황에서도, AI 안전성과 책임 관리에 대한 체계적인 접근 방식은 시장 진출과 장기적인 회복탄력성을 뒷받침하는 데 도움이 될 수 있습니다.
의사결정, 패턴 인식 및 자동화를 지원하는 제품, 소프트웨어 및 운영 시스템에 인공지능(AI)이 점점 더 많이 적용되고 있습니다. 조직은 AI 기반 제품과 시스템이 어떻게 효율성을 높이고, 수작업 부담을 줄이며, 새로운 고객 경험을 창출하는 데 도움이 될 수 있는지 점점 더 적극적으로 모색하고 있습니다. 이와 동시에 AI는 데이터 개인정보 보호, 감독, 책임 있는 사용 등 신뢰와 관련된 새로운 기대치를 불러일으키고 있으며 이는 기존의 소프트웨어 및 데이터 프로젝트에 일반적으로 요구되는 수준을 뛰어넘는 것입니다.
다양한 산업 분야에 걸쳐 AI가 도입되고 있으며, 품질 관리, 예측 유지보수, 공정 최적화, 사용자 맞춤화 등의 응용 기술이 기존 제품과 업무 흐름에 점점 더 깊이 통합되고 있습니다. AI 활용이 확대됨에 따라 조직은 실험 단계를 넘어, AI가 가장 큰 가치를 창출하는 분야와 적절한 감독 하에 AI를 어떻게 배포할 수 있을지에 초점을 맞추고 있습니다.
그리고 이러한 변화는 분명한 기회를 만들어내고 있습니다. AI를 효과적으로 관리, 모니터링 및 확장할 수 있는 조직은 AI를 팀과 운영 전반에 더 깊이 통합하고, 마찰을 줄이며, 파일럿 프로젝트 단계에서 벗어나 일관된 실행 단계로 나아갈 수 있습니다.
AI가 고객과 규제 당국에 점점 더 눈에 띄게 되면서, 신뢰는 실질적인 필수 요건이 되고 있습니다. 책임성과 투명성은 조직이 규정 준수 위험을 줄이고 AI 시스템의 성능에 대한 명확한 기대치를 설정하는 데 도움이 됩니다.
UL Solutions는 교육, 자문 및 독립적인 제3자 평가를 통해 AI 안전성을 지원합니다. 글로벌 시험·검사·인증(TIC) 기관으로서, 당사는 제조업체가 정의된 안전 기준에 따라 AI 시스템을 평가하여 전 세계 시장에서 귀사 제품에 대한 신뢰를 구축할 수 있도록 지원합니다.
AI 도입이 가속화되고 제품, 서비스, 시스템 전반으로 확대됨에 따라, 이에 대응하는 규제 환경도 빠르게 변화하고 있습니다. 조직은 단일한 글로벌 규칙 체계보다는, AI의 설계, 관리 및 평가 방식을 규정하는 점점 늘어나는 기대치에 직면해 있습니다. 이러한 현황을 파악하면, 요구 사항이 지속적으로 발전해 나가는 과정에서 팀이 위험을 예측하고, 내부 업무 방식을 조정하며, 예상치 못한 상황을 방지하는 데 도움이 됩니다.
유럽연합(EU) AI법은 AI가 어떻게, 어디서 사용되는지에 따라 서로 다른 의무를 규정하는 위험 기반 체계를 도입합니다. 고위험 AI 시스템은 위험 관리, 문서화, 사람의 감독 및 배포 후 모니터링과 관련하여 추가적인 요구 사항을 준수해야 합니다. AI 기반 제품이나 서비스가 유럽 시장에 진출할 경우, EU 외부에서 운영되는 조직까지도 그 영향을 받을 수 있습니다.
일반 데이터 보호 규정(GDPR)은 조직이 AI 시스템 내에서 데이터를 수집, 활용 및 보호하는 방식에 계속해서 영향을 미치고 있습니다. 데이터 보호, 투명성 및 책임성과 관련된 요건은 특히 시스템이 개인정보나 자동화된 의사결정에 의존하는 경우 AI의 개발 및 배포에 직접적으로 적용되며 그 방향을 결정합니다.
미국에서는 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크(RMF)가 AI 관련 위험을 식별, 평가 및 관리하기 위한 자발적 지침을 제공하고 있습니다. 이 프레임워크는 AI 수명 주기 전반에 걸친 거버넌스, 기술적 안전장치 및 지속적인 모니터링을 강조합니다. 규정은 아니지만, 책임 있는 AI 관행을 위한 공통된 기준으로 점점 더 많이 참조되고 있습니다.
규제 활동과 더불어, 국제 표준 기구들은 AI의 안전성, 거버넌스 및 신뢰성에 관한 지침을 지속적으로 마련하고 있습니다. 이러한 노력은 혁신을 지원하면서도 의도치 않은 피해의 위험을 줄이겠다는 공동의 목표를 반영하고 있습니다. 관련 규정, 프레임워크 및 표준을 준수함으로써 조직은 거버넌스, 위험 관리 및 감독에 일관된 접근 방식을 적용할 수 있으며, 이는 AI 시스템이 발전하고 규모가 확대됨에 따라 상호 운용성을 높이고, 기대치를 명확히 하며, 신뢰를 강화하는 데 기여합니다.
조직이 AI를 지속적으로 탐색하고 배포함에 따라, 산업 전반에 걸쳐 반복적인 패턴이 나타나고 있습니다. AI 도입은 빠르게 진행되고 있는 반면, 안전, 규정 준수 및 신뢰에 대한 기대는 상대적으로 느리게 변화하고 있습니다. 많은 팀이 상위 수준의 원칙과 규제 지침을 위험을 관리하면서도 혁신을 뒷받침하는 실질적인 일상적 의사결정으로 전환하는 데 도움을 필요로 합니다.
AI는 기술적, 윤리적, 거버넌스적 고려 사항들을 제기하며, 많은 조직이 아직 이에 대한 경험을 쌓아가고 있습니다. 팀은 데이터 과학이나 엔지니어링 역량은 뛰어나지만 AI 안전 표준, 평가 방법론 또는 수명 주기 거버넌스에 대해서는 잘 알지 못할 수 있습니다. 이러한 지식의 격차는 발전을 늦추고, 불확실성을 야기하며, AI 시스템이 의도한 대로 작동하고 있는지 평가하기 어렵게 만들 수 있습니다.
AI 관련 규정과 표준이 마련됨에 따라, 조직은 새로운 요구 사항이 자사의 제품과 시장에 어떻게 적용되는지 파악해야 합니다. AI 규정 준수, 문서화 및 시험 요건과 관련된 문제들은 시장 출시 속도와 배포 결정에 대한 신뢰도에 영향을 미칠 수 있습니다. 변화하는 요구 사항에 명확하게 부응하지 못할 경우, 팀은 재작업, 지연 또는 지역 간 접근 방식의 불일치와 같은 위험에 직면할 수 있습니다.
UL 3115는 AI 기반 제품의 안전성에 대한 시험 개요(OOI)입니다. 이는 AI 기반 기능을 포함하는 광범위한 제품 및 시스템 전반에 걸쳐 AI 안전성을 평가할 수 있는 체계적인 방법을 제공합니다. UL 3115는 특정 기술이나 사용 사례에만 초점을 맞추기보다는, 기존 제품 안전 표준과 병행하여 적용할 수 있는 수평적 접근 방식을 채택하고 있습니다.
UL 3115는 기술적, 윤리적, 거버넌스적 측면을 통해 AI 안전성을 다룹니다. 또한 AI 시스템이 어떻게 설계, 개발 및 배포되는지를 살펴보며, 특히 실제 환경에서 이러한 시스템이 어떻게 작동하는지에 주목합니다. 여기에는 AI 수명 주기 전반에 걸친 견고성, 위험 관리, 투명성, 데이터 처리 및 감독과 같은 요소들이 포함됩니다.
당사는 UL 3115 표준에 부합하는 독립적인 제3자 평가를 수행하여, AI 기반 제품 또는 시스템이 의도된 용도와 위험 프로필에 적합한 안전 조치를 구현했는지 여부를 평가합니다. 이 평가는 설계, 거버넌스 및 지속적인 감독 과정에서 안전성이 어떻게 고려되는지, 그리고 시스템이 실제 운영 환경에서 어떻게 작동하는지를 검토하며, 그 결과와 함께 기반이 되는 알고리즘 및 아키텍처를 종합적으로 분석합니다. 이러한 접근 방식은 시스템의 신뢰성, 예측 가능성 및 복원력에 대한 객관적인 통찰력을 제공함으로써, 조직이 시스템이 발전하고 확장됨에 따라 AI 안전 고려 사항이 제품 수명 주기 전반에 걸쳐 통합되어 있음을 입증할 수 있도록 돕습니다.
AI 시스템은 시간이 지남에 따라 발전하기 때문에, 거버넌스와 문서화가 매우 중요합니다. UL 3115는 조직이 AI 수명 주기 전반에 걸쳐 변화를 관리하고, 기록을 유지하며, 성능을 모니터링하는 방식을 다룹니다. 여기에는 미래의 상태를 예측하고, 위험 요소를 추적하며, 책임 이행을 지원하는 것이 포함됩니다.
많은 조직은 관련 표준 및 규정을 준수하는 것 이상의 AI 기반 제품에 대한 지원을 필요로 합니다. AI 책임 관리는 AI 시스템이 시간이 지남에 따라 어떻게 관리되는지에 중점을 두며, 여기에는 안전 및 성능에 대한 기대치를 어떻게 유지하는지, AI 관련 마케팅 주장을 어떻게 전달하는지, 그리고 팀이 책임감 있는 배포와 지속적인 감독에 필요한 역량을 어떻게 함양하는지가 포함됩니다.
AI 관련 마케팅 주장에 대한 독립적인 제3자 검증은 조직이 시스템의 성능과 작동 방식을 보다 명확하고 신뢰성 있게 전달하는 데 도움이 됩니다. UL Solutions의 마케팅 메시지 검증(MCV) 서비스는 제조업체가 알고리즘 재현성, 데이터 개인정보 보호 및 모델 투명성과 관련된 주장을 입증할 수 있도록 지원함으로써, 고객, 파트너 및 규제 당국과의 보다 명확한 의사소통을 돕습니다.
많은 조직이 뛰어난 기술 인력을 보유하고 있지만, 글로벌 AI 안전 표준, AI 거버넌스 요구 사항 및 평가 관행에 대한 내부 경험은 부족한 실정입니다. AI 교육 서비스는 팀이 위험, 감독 및 문서화에 대한 공통된 이해를 형성하도록 지원함으로써, 보다 명확한 의사결정과 책임 이행을 바탕으로 AI 시스템을 배포할 수 있도록 돕습니다.
“AI 시스템의 안전성 확보는 대중의 신뢰를 쌓고 AI 기술의 책임 있는 도입을 촉진하는 데 있어 매우 중요합니다.”
“성공적인 AI는 단순히 구축되는 것이 아니라, 실제 환경에서 운영될 수 있도록 설계되고, 관리되며, 유지보수됩니다.”
UL 3115는 AI 기반 제품의 안전성에 관한 OOI입니다. 이 프레임워크는 특정 알고리즘이나 사용 사례보다는 AI의 설계, 개발 및 배포 방식에 중점을 두어, 광범위한 제품과 시스템 전반에 걸쳐 AI 안전성을 평가하기 위한 체계적인 접근 방식을 제공합니다.
UL Solutions는 UL 3115 표준에 부합하는 AI 안전 인증을 통해, AI 기반 제품이 의도된 용도와 위험 프로파일에 따라 적절한 안전 조치를 구현했는지 평가하기 위한 독립적인 제3자 평가를 수행합니다. 이 평가는 요구 사항과 입증 자료에 중점을 두는 반면, 설계 및 운영에 대한 책임은 해당 조직에 있습니다.
UL 3115와 NIST AI RMF는 상호 보완적인 관점에서 AI 안전성을 다룹니다. NIST 프레임워크는 AI의 전체 수명 주기에 걸쳐 AI 위험을 식별하고 관리하기 위한 자발적인 조직 차원의 지침을 제공합니다. UL 3115는 이러한 개념을 제품 수준에 적용하여, 특정 AI 기반 제품이 의도된 용도에 대해 정의된 안전 기준을 충족하는지 평가하기 위한 체계적인 프레임워크를 제공합니다. UL 3115와 NIST AI RMF를 함께 활용하면, 조직이 AI 위험을 일관되게 관리하고 실제 상황에서 제품 수준의 안전성을 입증하는 데 도움이 될 수 있습니다.
ISO/IEC 42001은 AI 관리 시스템을 위한 조직 차원의 표준입니다. 이 표준은 조직이 활동 전반에 걸쳐 AI를 개발, 배포 및 관리하는 방식을 안내하는 거버넌스, 정책, 역할 및 프로세스에 대한 요건을 규정합니다.
반면, UL 3115는 안전 요건을 규정하고, AI 기반 제품의 설계, 개발 및 배포를 보다 안전하게 수행하기 위한 지침을 제시합니다. 이러한 지침은 데이터 수집 및 분석, 문서화 및 보고, 수명 주기 관리, 책임성, 통제 및 감독, 투명성 및 설명 가능성 등 거버넌스와 관련된 다음과 같은 AI 안전 원칙을 다룹니다. 이러한 원칙들은 특정 AI 기반 제품이 의도된 용도에 대해 안전한지 여부를 평가할 때 적용됩니다.
AI 안전성 인증은 AI 기반 제품이 의도된 용도와 위험 프로파일에 따라 정의된 안전성 기준을 준수하는지 평가하는 반면, MCV는 객관적이고 과학적 근거에 기반한 평가를 통해 알고리즘 재현성, 데이터 개인정보 보호 및 모델 투명성과 관련된 특정 AI 마케팅 주장의 정확성을 검증하는 데 중점을 둡니다. 두 가지 모두 공통된 AI 안전 원칙을 바탕으로 하고 있지만, 그 목적은 서로 다릅니다.
AI 수명 주기 거버넌스를 실질적으로 운영하기 위해서는 설계 단계부터 배포 및 그 이후 단계에 이르기까지 감독, 문서화 및 모니터링을 위한 명확한 프로세스를 수립해야 합니다. 여기에는 AI 시스템이 시간이 지남에 따라 발전해 나가는 과정에서 역할을 정의하고, 변화를 관리하며, 책임 이행을 뒷받침하는 기록을 유지하는 것이 포함됩니다.
UL Solutions는 안전이 매우 중요한 환경에서 작동하는 제품을 포함하여 다양한 AI 기반 제품 및 시스템을 평가할 수 있습니다. 적용할 접근 방식은 특정 용도와 관련된 사용 목적, 위험 프로필 및 규제 당국의 기대 사항에 따라 달라집니다.
AI 책임 관리와 마케팅 메시지 검증은 조직이 단순한 규정 준수를 넘어 책임감 있는 AI 관행을 입증하는 데 도움을 줍니다. AI 시스템의 작동 방식과 주장되는 내용에 대해 제3자 검증을 거치고 명확하게 소통한다면, 고객, 파트너 및 규제 당국 간의 불확실성을 줄이고 신뢰를 높이는 데 도움이 될 수 있습니다.
AI 기반 제품에 대한 당사의 서비스를 살펴보고 당사가 어떻게 도움을 드릴 수 있는지 상담을 받아보세요.
