KI, einsatzbereit und vertrauenswürdig

UL 3115 ist die OOI zur Sicherheit von KI-basierten Produkten. Sie bietet einen strukturierten Ansatz zur Bewertung der KI-Sicherheit für eine ganze Reihe von Produkten und Systemen. Dabei richtet sich der Fokus auf den Entwurf, die Entwicklung und den Einsatz von KI und nicht auf spezifische Algorithmen oder einzelne Anwendungsfälle.

Im Rahmen der KI-Sicherheitszertifizierung gemäß UL 3115 führt UL Solutions unabhängige, externe Assessments durch, um zu prüfen, ob bei einem KI-basierten Produkt entsprechend seinem Verwendungszweck und seinem Risikoprofil angemessene Sicherheitsmaßnahmen umgesetzt wurden. Der Schwerpunkt der Assessments liegt auf den Anforderungen und den entsprechenden Nachweisen; die Verantwortung für den Entwurf und den Betrieb verbleibt dabei beim Unternehmen.

UL 3115 und das NIST AI RMF komplementieren sich beim Thema KI-Sicherheit. Das NIST-Framework bietet freiwillige Leitlinien auf Unternehmensebene zur Identifizierung und zum Umgang mit KI-Risiken über den gesamten Lebenszyklus hinweg. UL 3115 überträgt diese Konzepte auf die Produktebene und bietet einen strukturierten Rahmen zur Bewertung, ob ein KI-basiertes Produkt die definierten Sicherheitsanforderungen für seinen Verwendungszweck erfüllt. In Kombination unterstützen UL 3115 und das NIST AI RMF Unternehmen dabei, KI-Risiken systematisch zu steuern und die Sicherheit ihrer Produkte in der Praxis nachzuweisen.

ISO/IEC 42001 ist eine Norm für KI-Managementsysteme auf Unternehmensebene. Sie definiert Anforderungen an die Governance, Richtlinien, Rollen und Prozesse und bietet damit Unternehmen Orientierung bei der Entwicklung, dem Einsatz und der Steuerung von KI in allen Tätigkeitsbereichen.   
 
UL 3115 hingegen legt Sicherheitsanforderungen fest und enthält Leitlinien für einen sichereren Entwurf, Entwicklung und die Verwendung von KI-basierten Produkten. Sie umfasst die folgenden Governance-Grundsätze zur Gewährleistung der KI-Sicherheit: Datenerhebung und -analyse, Dokumentation und Reporting, Lebenszyklusmanagement, Verantwortlichkeit, Kontrolle und Aufsicht sowie Transparenz und Erklärbarkeit. Anhand dieser Grundsätze wird bewertet, ob ein KI-basiertes Produkt für seinen vorgesehenen Verwendungszweck sicher ist. 

Die KI-Sicherheitszertifizierung bewertet, ob ein KI-gestütztes Produkt die festgelegten Sicherheitsanforderungen auf Grundlage seines Verwendungszwecks und Risikoprofils erfüllt. Die MCV hingegen überprüft anhand eines objektiven, wissenschaftlich fundierten Assessments, ob bestimmte Marketingaussagen über eine KI – etwa zur Reproduzierbarkeit von Algorithmen, zum Datenschutz oder zur Modelltransparenz – nachvollziehbar belegt werden können. Obwohl beide auf denselben KI-Sicherheitsgrundsätzen basieren, dienen sie unterschiedlichen Zwecken. 

Die Umsetzung einer Governance entlang des gesamten Lebenszyklus einer KI beinhaltet das Einführen klarer Prozesse zur Aufsicht, Dokumentation und Überwachung – vom Entwurf bis hin zur Verwendung und den nachfolgenden Phasen. Dazu gehören die Definition von Rollen, das Steuern von Änderungen und das Führen von Aufzeichnungen. Dadurch wird auch bei der Weiterentwicklung von KI-Systemen die Verantwortlichkeit sichergestellt.

Ja, UL Solutions kann eine ganze Reihe von KI-basierten Produkten und Systemen bewerten – darunter auch solche, die in sicherheitskritischen Umgebungen eingesetzt werden. Der jeweilige Ansatz hängt vom Verwendungszweck, dem Risikoprofil und den regulatorischen Anforderungen ab, die mit der jeweiligen Anwendung verbunden sind.

Wenn Unternehmen ihre KI-Stewardship – also den verantwortungsvollen Umgang mit KI – sowie ihre Marketingaussagen verifizieren lassen, können sie nachweisen, dass sie KI nicht nur regelkonform, sondern auch verantwortungsvoll einsetzen. Eine unabhängige Prüfung durch Dritte sowie eine transparente Kommunikation darüber, wie ihre KI-Systeme funktionieren und welche Aussagen über sie getroffen werden, können dazu beitragen, Unsicherheiten abzubauen und das Vertrauen bei Kunden, Partnern und Regulierungsbehörden zu stärken.