Zukunftsvision: KI und sicheres, autonomes Fahren

Bereits als bloße Idee versprachen autonome Fahrzeuge, das Verkehrswesen grundlegend zu verändern. Heute erleben diese Versprechen durch künstliche Intelligenz (KI) neuen Auftrieb. Und auch wenn sich die Vorteile mit neuen Technologien und Prioritäten verändern, bleiben drei zentrale Ideen maßgeblich:

1. Weniger Unfälle machen die Straßen sicherer.
2. Fahren wird inklusiver, da Alter oder Mobilitätseinschränkungen der Fahrzeugnutzung bzw. dem Fahrzeugbesitz nicht mehr entgegenstehen.
3. Weniger Verkehrsstaus bedeuten weniger Emissionen und dadurch eine Entlastung der Umwelt.¹

Diese drei potenziellen Vorteile allein können die weltweite Wahrnehmung von Mobilität grundlegend verändern, doch eine zentrale Herausforderung bleibt: das Vertrauen.

Wie kann KI in einer unberechenbaren Welt sicher agieren? Um diese Frage zu beantworten, müssen wir unseren Blick darauf lenken, wo KI in der Branche bereits eingesetzt wird – im Straßenverkehr sowie außerhalb – und welche Maßnahmen zur Erhöhung der Sicherheit ergriffen werden.

Wie KI die Fahrzeugentwicklung zunehmend verändert

Die Automobilindustrie verlagert ihren Fokus von klassischen Fahrzeugen hin zu softwaredefinierten Fahrzeugen (SDV). Laut einer Studie des IBM Institute for Business Value (IBV) werden in den nächsten zehn Jahren fast drei Viertel aller produzierten Fahrzeuge softwaredefiniert und mit KI ausgestattet sein.² Schon heute ist KI in jeder Phase der Fahrzeugentwicklung integriert, von der Konstruktion über Prüfverfahren bis hin zu Echtzeitfunktionen wie Wahrnehmung, Entscheidungsfindung und Steuerung.

Auf Fahrzeugebene steht der Einsatz von KI vor infrastrukturellen Hürden. Eine zuverlässige, schnelle Datenübertragung im Fahrzeug ist bislang nicht gewährleistet, was die Anbindung an die Cloud erschwert. Mit Edge KI – kleineren, lokal ausgeführten KI-Modellen, die kritische Workloads direkt vor Ort (im Fahrzeug) verarbeiten – lässt sich dieses Problem lösen. Sie übernehmen weniger rechenintensive Aufgaben wie einfache Sprachbefehle und machen so die cloudbasierte KI für datenintensivere Workloads wie großflächige Wahrnehmung, Prognosen oder Flottenlernprozesse verfügbar.³ 

Xpeng, einer der führenden chinesischen Elektrofahrzeughersteller, geht einen Schritt weiter: Mit einem selbst entwickelten KI-Chip soll die Rechenleistung im Fahrzeug erhöht werden, um Latenzen und die Abhängigkeit von Cloud-Diensten sowie externen Zulieferern zu reduzieren.⁴

Um die Weiterentwicklung und Innovation von KI in der Automobilindustrie zu fördern und eine sichere Anwendung zu gewährleisten, sind auch Regierungen zunehmend involviert. Taiwan treibt beispielsweise die Integration von KI in Automobilelektronik und -systemen gezielt voran. Erst kürzlich hat die Regierung eine Allianz für KI in der Automobilindustrie (AI Automotive Industry Alliance) ins Leben gerufen, um Forschungseinrichtungen, Automobilzulieferer, KI- und Softwareunternehmen sowie Erstausrüster (OEM) zu vernetzen.⁵

In Anerkennung der strategischen Bedeutung von KI erklärte die koreanische Regierung energieeffiziente KI-Chips für autonome Fahrzeuge zur nationalen Schlüsseltechnologie, um die staatliche Förderung zu verstärken.⁶

Von klassischen Standards zu neuen Ansätzen für mehr KI-Sicherheit

Eine zentrale Herausforderung bei der KI-Sicherheit ist, dass KI nicht-deterministisch ist, sie verhält sich also nicht wie klassische, regelbasierte Software und liefert bei gleichen Eingaben nicht unbedingt dieselben Ergebnisse, was die Validierung erschwert. Zusätzlich kann das das Vertrauen in die KI beeinträchtigen. Laut dem „State of Automotive Software Development Report 2025“ sehen fast die Hälfte (49 %) der befragten Fachkräfte in der Automobilentwicklung die „sichere Entscheidungsfindung von KI-Algorithmen in autonomen bzw. teilautonomen Fahrzeugen“ als größte Herausforderung bei der Entwicklung KI-gestützter Fahrzeuge.⁷

Klassische Normen für die Fahrzeugsicherheit wurden für deterministische, regelbasierte Systeme konzipiert und sind in der Branche nach wie vor von zentraler Bedeutung. Ein Beispiel ist die ISO 26262, die internationale Norm für funktionale Sicherheit. Diese dient der Prävention von Gefahren durch Hardware- oder Softwarefehler, basiert jedoch auf der Annahme eines deterministischen, vorhersehbaren Systemverhaltens, das mit traditionellen Verifizierungsmethoden geprüft werden kann. Nicht fehlerbasierte Risiken in KI-Systemen werden damit nicht abgedeckt.

Diese Systeme, insbesondere neuronale Netzwerke, zeigen nicht-deterministisches Verhalten und probabilistische Entscheidungsfindung. Das heißt, es können auch dann Fehler auftreten, wenn alle Komponenten funktional sicher sind. Diese „Fehlverhalten ohne Fehler“, bei denen ein KI-Modell trotz funktionierender Hardware und Software falsche Ergebnisse liefert (d. h. es funktioniert „wie vorgesehen“, trifft aber falsche Vorhersagen), fallen nicht in den Geltungsbereich der ISO 26262.⁸

Die „Sicherheit der beabsichtigten Funktionalität“ (SOTIF, ISO/PAS 21448) ist daher eine wichtige Norm für KI-Systeme, die unbekannte und unerwartete Szenarien, sogenannte „Randfälle“, behandelt, bei denen Systembeschränkungen potenziell gefährlich werden können.

Die ISO/PAS 8800 „Road Vehicles – Safety and Artificial Intelligence“ behandelt ebenfalls die Sicherheit KI-gesteuerter Systeme in Straßenfahrzeugen. Die Norm bietet einen Rahmen zur Verbesserung der Sicherheit von KI-Verhalten. Laut der Internationalen Organisation für Normung (ISO) sagt dazu Folgendes: 

„Das Dokument befasst sich mit dem Risiko unerwünschter sicherheitsrelevanter Verhaltensweisen auf Fahrzeugebene, die durch unzureichende Ausgaben, systematische Fehler oder zufällige Hardwarefehler von KI-Elementen im Fahrzeug entstehen. Dabei werden auch Interaktionen mit KI-Elementen berücksichtigt, die nicht Teil des Fahrzeugs sind, aber die Fahrzeugsicherheit direkt oder indirekt beeinflussen können.“

Die Einbindung von KI ist heute nahezu unverzichtbar, um den Erwartungen der Verbraucher gerecht zu werden. Verzögerungen bei der Entwicklung neuer, innovativer Systeme können den Markteintritt erschweren und die Einführung eines fehlerhaften Produkts kann Rückrufe, Imageschäden und finanzielle Verluste nach sich ziehen. Fachkräfte in der Fahrzeugentwicklung sind sich dieser Risiken bewusst: 63 % sorgen sich darum, innovative Software termingerecht bereitzustellen und Rückrufe oder Verzögerungen zu vermeiden.⁶ Zusätzlich stufen 11 % diese Herausforderung als besonders kritisch ein, was die wachsende Sensibilität für die Probleme von Erstausrüstern (OEM) und Zulieferern verdeutlicht.

Um die Automobilindustrie zu entlasten und technologische Innovationen voranzutreiben, unterstützt UL Solutions Unternehmen mit Beratungs- und Schulungsservices. Unser Team unterstützt Sie in unterschiedlichen Entwicklungsphasen, von Sicherheitsanalysen wie der systemtheoretischen Prozessanalyse (STPA) bis hin zur Erstellung umfassender Sicherheitsnachweise unter Anwendung von UL 4600 („Standard for Evaluation of Autonomous Products“), ISO 21448, ISO PAS 880 und weiteren aktuellen Sicherheitsnormen für Fahrzeuge.

Die Sicherheitsebene: Schutz vernetzter Fahrzeuge

Autonome Fahrzeuge sind hochgradig vernetzt und damit anfällig für völlig neue Cyberbedrohungen. Um zu verhindern, dass Systeme kompromittiert werden, ist Sicherheit eine Grundvoraussetzung. Fast 40 % der Entwicklungsfachkräfte sehen die Vermeidung von Schwachstellen und Cyberangriffen bei der Einführung fortschrittlicher KI-Technologien als sehr herausfordernd an und 26 % halten es sogar für extrem herausfordernd.⁶Angesichts der steigenden Anzahl potenzieller Risiken sind diese Bedenken leicht nachvollziehbar. 

So lassen sich etwa LiDAR-Systeme (Light Detection and Ranging) so manipulieren, dass sie nicht existierende Objekte erkennen, mit unnötigen Bremsmanövern als Folge. Ähnlich können auch Laser und Linsen das System täuschen, indem sie vorhandene Hindernisse verschleiern, sodass es zu einer Kollision kommen kann.⁹ Eine weitere Sicherheitslücke autonomer Fahrzeuge ist die Datenmanipulation. Diese kann von einer einfachen Manipulation der GPS-Daten, die zu falschen Navigationsanweisungen führt, bis hin zu böswilligen Firmware-Updates eines elektronischen Steuergeräts (ECU) reichen, die potenziell gefährliche Funktionen aktivieren.¹⁰

ISO/SAE 21434 bietet einen Rahmen für das Management dieser Art von Cyberrisiken über den gesamten Lebenszyklus eines Fahrzeugs. Die Einhaltung dieser Norm stärkt nicht nur das interne Vertrauen, sondern signalisiert Kunden und Verbrauchern auch Zuverlässigkeit.

Vertrauen in KI schaffen

Die Zukunft der autonomen Mobilität steht und fällt mit Vertrauen, denn nur vertrauenswürdige KI-Systeme bilden eine solide Basis für eine sichere und zuverlässige Mobilität. Mit dem zunehmenden Einsatz dieser Technologie wachsen aber auch die Herausforderungen. Die Branche muss ihren Fokus neu ausrichten und von hardwarebasierten Ansätzen zu softwarezentrierten Lösungen wechseln. Hersteller und Zulieferer, die hier nicht Schritt halten, bleiben unter Umständen auf der Strecke.

Unser Ansatz für eine softwarezentrierte Zukunft ist die gezielte Weiterbildung von Teams in Unternehmen und die Anpassung der Prozesse, sodass sie neuen Anforderungen und Herausforderungen gewachsen sind. Wir unterstützen die Automobilindustrie seit vielen Jahren in Sachen Sicherheit und Performance. Unsere Experten von UL Solutions Software Intensive Systems (SIS) machen Unternehmen fit für die Zukunft softwaredefinierter Fahrzeuge. Wir stärken die Kompetenzen Ihrer Teams und entwickeln gemeinsam umfassende Sicherheitsnachweise und Arbeitsergebnisse nach etablierten und neuen Sicherheitsnormen für einen sicheren und souveränen Einsatz von KI in Fahrzeugen und der Fahrzeugentwicklung.

Nur wenn Software im Mittelpunkt steht, kann das volle Potenzial autonomer Fahrzeuge ausgeschöpft werden. Damit diese Schritte wirklich greifen und um das Vertrauen nachhaltig zu stärken, muss Sicherheit in jeder Phase von der Entwicklung und Produktion bis zur Anwendung oberste Priorität haben.