Fortschritte in der KI-gestützten Sensorüberwachung für autonome Fahrzeuge

Die Entwicklung autonomer Fahrzeuge verspricht eine Revolution in der Mobilität, birgt jedoch auch fundamentale Herausforderungen. Eine zentrale Problematik ist die Fähigkeit dieser Systeme, nicht nur ihre Umgebung präzise zu erfassen, sondern auch die Zuverlässigkeit der eigenen Sensordaten kritisch zu bewerten. Insbesondere unter widrigen Wetterbedingungen wie Nebel, starkem Regen oder Schneefall sowie bei eingeschränkter Sicht durch Straßenbewuchs können die Sensoren autonomer Fahrzeuge an ihre Grenzen stoßen. In solchen Fällen ist die künstliche Intelligenz (KI) des Fahrzeugs nicht mehr in der Lage, präzise und sichere Entscheidungen zu treffen.

KI-gestützte Selbstüberwachung für mehr Sicherheit

Wissenschaftler der Otto-von-Guericke-Universität Magdeburg haben sich dieser Herausforderung angenommen und ein innovatives KI-gestütztes Verfahren entwickelt. Dieses System ist darauf ausgelegt, eine unsichere Datenlage von Kamera- und Lidar-Sensoren zu erkennen und bei Zweifeln über die Datenqualität eine kontrollierte Reaktion des autonomen Fahrzeugs, wie ein Anhalten, einzuleiten. Christoph Steup, der Projektleiter, hebt hervor, dass die Methodik maschinelles Sehen mit maschineller Selbsteinschätzung kombiniert. Das bedeutet, die KI analysiert nicht nur die wahrgenommene Umgebung, sondern bewertet gleichzeitig die Verlässlichkeit der zugrunde liegenden Daten. Fällt die Qualität der Sensordaten unter einen definierten Schwellenwert, reagiert das System autonom.

Praxistests mit positivem Ergebnis

Das Forschungsprojekt AULA-KI, welches vom Bund gefördert wird, zielt darauf ab, die Vertrauenswürdigkeit von Daten technisch messbar zu machen. Die in Magdeburg entwickelten Konzepte wurden bereits in Software umgesetzt und an einem autonomen EasyMile EZ10 Shuttle auf dem Galileo-Testfeld der Universität erprobt. Dieses Shuttle, ausgestattet mit acht Lidar-Sensoren und zwei Kameras, dient als Testplattform für autonome Fahrtechnologien.

Die Tests zeigten, dass das KI-basierte Verfahren Beeinträchtigungen der Sensorik durch Nebel, Regen und Schnee sehr zuverlässig erkennen konnte. Bei moderatem Regen- oder Schneefall war es dem System sogar möglich, die Störungen teilweise zu kompensieren. Bei extremen Bedingungen, wie starkem Regen oder Schneefall, war eine vollständige Korrektur der Sensordaten nicht immer möglich. In solchen Fällen war es jedoch das primäre Ziel, die KI-Systeme des Shuttles zu einem kontrollierten Anhalten zu bewegen, was laut Steup zuverlässig gelang. Er betonte, dass das System in Zweifelsfällen lieber zu vorsichtig als zu riskant agierte. Der entscheidende Schritt für die Sicherheit im autonomen Fahren besteht demnach darin, dass das Fahrzeug eine gestörte Datengrundlage erkennt, bevor es zu Fehlreaktionen kommt.

Gesellschaftliche Relevanz und zukünftige Anwendungen

Die Forschungsergebnisse werden als hochgradig gesellschaftlich relevant eingestuft. Die breite Akzeptanz autonomer Fahrzeuge in der Bevölkerung wird maßgeblich davon abhängen, ob diese Systeme auch unter schwierigen Bedingungen verlässlich und sicher agieren können. Das in Magdeburg entwickelte Verfahren liefert hierfür wesentliche Bausteine. Obwohl der Zeitpunkt der Serienreife noch offen ist, ist der Transfer in konkrete Anwendungen ein erklärtes Ziel der Universität Magdeburg.

Herausforderungen und Risiken für autonome Systeme

Neben den Fortschritten in der Sensorik und Datenbewertung bleiben weitere Herausforderungen bestehen. Eine davon betrifft die Anfälligkeit von KI-Systemen für Manipulationen, die sogenannten Prompt Injections. Wissenschaftler der University of California, Santa Cruz und der Johns Hopkins University haben kürzlich demonstriert, dass autonome Fahrzeuge durch präparierte Schilder getäuscht werden können. Die getesteten KI-Modelle interpretierten dabei Texte auf den Schildern nicht als reine Informationen, sondern als auszuführende Befehle, was in bis zu 95 Prozent der Fälle zu Fehlentscheidungen führte. Dies unterstreicht die Notwendigkeit robuster Sicherheitsprotokolle und einer kontinuierlichen Weiterentwicklung der KI-Architekturen, um solche Angriffe abzuwehren.

Die Bedeutung der KI-Überwachung

Autonome Fahrzeuge erfassen ihre Umgebung mittels einer Vielzahl von Sensoren wie Kameras und LiDAR. Die KI verarbeitet diese Daten, um Fahrstrategien abzuleiten. Ein grundlegendes Problem besteht jedoch darin, dass KI-Systeme primär aus Beispielen lernen und Schwierigkeiten haben, Situationen zu bewerten, die nicht in ihren Trainingsdaten enthalten waren. Unerwartete Wetterbedingungen, seltene Verkehrssituationen oder beschädigte Infrastruktur können die KI überfordern, wenn sie solche Szenarien zuvor nicht "gesehen" hat. Auch Inkonsistenzen zwischen verschiedenen Sensoren, zum Beispiel wenn eine Kamera ein Objekt erfasst, ein LiDAR-Sensor jedoch nicht, können zu fehlerhaften Entscheidungen führen.

Um diese Schwachstellen zu adressieren, haben Forscher des Zentrums für digitale Innovationen Niedersachsen (ZDIN) zwei Monitoring-Systeme entwickelt:

• Funktionales Monitoring: Dieses System prüft in Echtzeit die Plausibilität und Konsistenz von Sensordaten, Steuergeräten und Algorithmen. Bei Widersprüchen wird die Situation als unsicher eingestuft und eine Sicherheitsmaßnahme, wie eine Gefahrenbremsung, eingeleitet.
• Situatives Monitoring: Hier wird analysiert, ob die aktuelle Verkehrsszene in ähnlicher Form im Trainingsdatensatz der KI enthalten war. Erkennt das System etwas völlig Neues, wird ein Sicherheitsmodus aktiviert, selbst wenn die KI selbst "zuversichtlich" erscheint.

In kritischen Situationen können diese Monitoring-Systeme das Fahrzeug zum Stillstand bringen und einen Vorfall an ein Command-And-Control-Center melden, wo geschulte Operateure bei Bedarf die Fernsteuerung übernehmen können. Dies verdeutlicht, dass der Mensch in komplexen oder hochkritischen Fällen weiterhin eine entscheidende Rolle in der Aufsicht autonomer Systeme spielt.

Phantombremsungen und die Notwendigkeit menschlicher Wachsamkeit

Ein weiteres bekanntes Problem sind sogenannte "Phantombremsungen", bei denen Fahrzeuge aufgrund von Softwarefehlern oder fehlerhafter Sensorinterpretation unerwartet stark bremsen, obwohl kein reales Hindernis vorhanden ist. Dies kann zu gefährlichen Auffahrunfällen führen, insbesondere auf Autobahnen. Diese Vorfälle unterstreichen, dass Fahrer autonomer Fahrzeuge jederzeit bereit sein müssen, die Kontrolle manuell zu übernehmen, da ein blindes Vertrauen in den "digitalen Copiloten" derzeit noch unangebracht ist.

Fazit

Die Entwicklung autonomer Fahrzeuge ist ein komplexer Prozess, der nicht nur technologische Innovationen erfordert, sondern auch eine kontinuierliche Auseinandersetzung mit den Grenzen und potenziellen Fehlern der KI-Systeme. Die Forschung an selbstüberwachenden KI-Systemen, wie sie an der Universität Magdeburg und vom ZDIN betrieben wird, ist entscheidend, um die Sicherheit und Zuverlässigkeit dieser Technologien zu gewährleisten. Nur wenn autonome Fahrzeuge in der Lage sind, ihre eigenen Sensorinformationen kritisch zu bewerten und adäquat auf Unsicherheiten zu reagieren, können sie die notwendige gesellschaftliche Akzeptanz für eine breite Einführung erlangen. Gleichzeitig erfordern die Risiken von Manipulationen und unvorhergesehenen Softwarefehlern eine ständige Wachsamkeit und die Bereitschaft des menschlichen Fahrers, im Notfall einzugreifen.

Bibliography

- Ahrens, R. (2026, Februar 19). Autonome Fahrzeuge: Bei unsicheren Sensordaten drückt KI aufs Bremspedal. heise online. - Baaske, L. (2026, Februar 18). KI zieht die Notbremse. Otto-von-Guericke-Universität Magdeburg. - Schmied, M. (2025, November 28). Gefahren im Auto: KI-Angriff und Phantombremsung. Nau.ch. - Stockhausen, T. (2025, November 27). Autonomes Fahren: Warum Fahrzeuge jetzt ihre eigene KI überwachen. Ingenieur.de. - Universität Magdeburg. (2026, Februar 18). KI zieht die Notbremse. idw-online.de. - Golem.de. (n.d.). Autonome Fahrzeuge: Uni Magdeburg erprobt KI gegen Sensorfehler. - Prengel, H. T. (2025, September 28). Auto-Fahrerassistenzsysteme: Wenn der Wagen bei 200 km/h plötzlich stark bremst. Der Spiegel. - Herrmann, S. (2019, Mai 5). Criticality Labeling via Optimal Control and Machine Learning in Automotive Active Safety. Technische Universität München. - Die Zeit. (2026, Januar 21). „Potenziell tödliche Fehler“.