Sicherheitsanfälligkeit humanoider Roboter und ihre Implikationen für die KI-Entwicklung

Gefährdete Autonomie: Roboter infiziert Kollegen und führt unerwartete Aktionen aus

Ein kürzlich durchgeführtes Experiment im Rahmen eines Cybersecurity-Wettbewerbs hat die Anfälligkeit humanoider Robotersysteme gegenüber Manipulationen aufgezeigt. Sicherheitsforscher demonstrierten, wie einfach es ist, die Kontrolle über einen Roboter mittels eines einzigen Sprachbefehls zu übernehmen und diesen sogar dazu zu bringen, weitere Roboter zu infizieren und physikalische Aktionen auszuführen. Dieses Szenario wirft wichtige Fragen bezüglich der Sicherheit moderner Robotik und Künstlicher Intelligenz auf, insbesondere im Hinblick auf ihre zunehmende Integration in sensible Bereiche.

Die Demonstration: Ein Roboter unter Kontrolle

Bei einem Cybersecurity-Event in Shanghai gelang es einem Forschungsteam, einen humanoiden Roboter des chinesischen Herstellers Unitree Robotics zu kompromittieren. Die Forscher nutzten eine Schwachstelle im KI-System des Roboters aus, die es ihnen ermöglichte, innerhalb weniger Minuten die vollständige Kontrolle über das Gerät zu erlangen. Bemerkenswert ist dabei die Einfachheit des Angriffs: Ein einziger Sprachbefehl reichte aus, um das System zu überwinden.

Nach der Übernahme wurde der gehackte Roboter zu einem "digitalen trojanischen Pferd". Er konnte einen weiteren, nicht mit dem Internet verbundenen Roboter über die Nahfeldkommunikation (NFC) infizieren. Dieser zweite Roboter führte daraufhin eine alarmierende Aktion aus: Er näherte sich einer Puppenattrappe, hob seinen mechanischen Arm und schlug die Puppe zu Boden. Dieser Vorfall unterstrich die potenzielle Gefahr, die von manipulierten Robotern ausgehen kann, selbst wenn sie isoliert scheinen.

Sicherheitslücken im Fokus

Die von den Sicherheitsforschern aufgedeckten Lücken sind vielschichtig. Sie reichen von Schwachstellen in der Spracherkennung bis hin zu unzureichend gesicherten Kommunikationsprotokollen. Insbesondere die Nutzung von LoRa-Protokollen im 2,4-GHz-Band ohne ausreichende Verschlüsselung oder Authentifizierung machte die Roboter anfällig für Brute-Force-Angriffe. Zudem wurden fundamentale Designfehler in den Netzwerkschnittstellen, die über Protokolle wie WebRTC und MQTT mit dem Internet kommunizieren, festgestellt. Ein kritisches Beispiel hierfür war die Ableitung des Fernzugriffspassworts aus der Seriennummer des Geräts.

Ein weiterer besorgniserregender Aspekt war die Möglichkeit eines Prompt-Injection-Angriffs auf den "Embodied AI Agent" der Roboter. Durch gezielte Sätze konnte die integrierte KI, die ein großes Sprachmodell nutzt, dazu gebracht werden, Systembefehle mit Root-Rechten auszuführen. Dies ermöglichte den Angreifern nicht nur den Zugriff auf den Videostream der Kopfkamera, sondern theoretisch auch die Koordination eines Botnetzes aus Tausenden von Robotern.

Physische Gefahr und die Forderung nach "Security-by-Design"

Die Implikationen solcher Sicherheitslücken sind weitreichend. Sollten Roboter in Bereichen wie der Altenpflege, als Haushaltsroboter oder zu militärischen Zwecken eingesetzt werden, könnten sie zur Überwachung missbraucht oder sogar zu einer physischen Bedrohung für Menschen werden. Auch in weniger sensiblen Bereichen wie autonomen Fahrzeugen oder Industrierobotern könnten Hacker erhebliche Schäden oder Verletzungen verursachen.

Die Forscher appellieren an die Hersteller, grundlegende Sicherheitsprobleme bereits in der Produktentwicklung zu identifizieren und zu beheben. Derzeit scheine die Branche der humanoiden Roboter in puncto IT-Sicherheit hinter etablierten Standards zurückzubleiben. Während Unternehmen wie Boston Dynamics detaillierte Sicherheitskonzepte vorlegen, priorisieren Massenhersteller oft den Schutz ihrer Immaterialgüterrechte über die Sicherheit der Nutzer.

Dieses Ereignis unterstreicht die Dringlichkeit, robuste Sicherheitsmaßnahmen in die Entwicklung von KI-gesteuerten Robotern zu integrieren, um potenzielle Risiken für Gesellschaft und Wirtschaft zu minimieren. Die Vision einer sicheren und vertrauenswürdigen Mensch-Maschine-Interaktion erfordert eine proaktive Herangehensweise an die Cybersicherheit von Robotersystemen.

Die Rolle der KI-Sicherheit in der B2B-Landschaft

Für Unternehmen, die im B2B-Sektor tätig sind und zunehmend auf Robotik und KI-Lösungen setzen, sind diese Erkenntnisse von immenser Bedeutung. Die Demonstration verdeutlicht, dass die Implementierung von Robotern nicht nur Effizienzgewinne verspricht, sondern auch neue Angriffsflächen für Cyberkriminelle schafft. Eine strategische Auseinandersetzung mit der KI-Sicherheit ist daher unerlässlich. Dazu gehören:

• Risikobewertung und -management: Unternehmen müssen die spezifischen Risiken, die mit dem Einsatz von Robotern und KI-Systemen verbunden sind, systematisch bewerten und entsprechende Schutzmaßnahmen implementieren.
• Lieferketten-Sicherheit: Die Herkunft und die Sicherheitsstandards der Komponenten und Software in Robotersystemen müssen kritisch geprüft werden, insbesondere bei internationalen Lieferketten.
• Schulung und Sensibilisierung: Mitarbeiter, die mit Robotern und KI-Systemen interagieren, müssen für potenzielle Sicherheitsrisiken sensibilisiert und entsprechend geschult werden.
• Regelmäßige Audits und Updates: Kontinuierliche Sicherheitsaudits und die Implementierung von Software-Updates sind entscheidend, um auf neue Bedrohungen reagieren zu können.
• "Security-by-Design"-Ansatz: Die Forderung an Hersteller, Sicherheit von Anfang an in die Produktentwicklung zu integrieren, muss auch von einkaufenden Unternehmen aktiv eingefordert werden.

Die Vorfälle zeigen, dass die "drei Gesetze der Robotik" von Asimov, die den Schutz des Menschen durch Roboter zum Ziel haben, in der aktuellen Realität noch eine "ferne Illusion" darstellen. Eine konsequente Umsetzung von Sicherheitsstandards und eine kontinuierliche Anpassung an neue Bedrohungsszenarien sind unerlässlich, um das Vertrauen in die Robotik und KI zu gewährleisten und ihr volles Potenzial sicher nutzen zu können.

Bibliography

- Brien, Jörn. "KI-Lücke aufgedeckt: Gehackter Roboter infiziert seinen Kollegen – und schlägt auf Puppe ein." t3n, 4. Januar 2026. - IT-Boltwise. "Gefährdung durch Sprachbefehle: Humanoide Roboter als potenzielle Botnetze." IT-Boltwise, 28. Dezember 2025. - IT-Boltwise. "Sicherheitslücken bei humanoiden Robotern: Eine unterschätzte Gefahr." IT-Boltwise, 28. Dezember 2025. - Krempl, Stefan. "39C3: Skynet Starter Kit – Forscher übernehmen humanoide Roboter per Funk und KI." heise online, 28. Dezember 2025. - t3n Magazin. "Erschreckend einfach: Gehackter Roboter infiziert Kollegen und schlägt auf Puppe ein." LinkedIn, 28. Dezember 2025. - t3n Magazin. "Bei einem Cybersecurity-Event haben Sicherheitsforscher einen humanoiden Roboter gehackt." Facebook, 7. Februar 2026. - t3n_magazin. "Bei einem Cybersecurity-Event haben Sicherheitsforscher einen humanoiden Roboter gehackt." Threads, 28. Dezember 2025. - Kauert, Rico-Thore. "Erschreckend einfach: Gehackter Roboter infiziert Kollegen und schlägt auf Puppe ein." LinkedIn, 28. Dezember 2025. - Kiesler, Johanna. "Archiv - TLfDI." TLfDI, diverse Einträge. - Foerschner, Anja. "Paul McCarthy und die Entertainment-Metropole Los Angeles." Inauguraldissertation, Ludwig-Maximilians-Universität München, 2011.