Warum Physical AI im großen Maßstab Sicherheit auf jeder Ebene verlangt

Am 21. September 2026 hat NVIDIA im eigenen Blog einen Beitrag von Riccardo Mariani veröffentlicht, sinngemäß betitelt: Warum der Einsatz von Physical AI im großen Maßstab Sicherheit auf jeder Ebene verlangt. Die Kernaussage ist einfach. Wenn autonome Fahrzeuge, humanoide Roboter und Industrieroboter auf Straßen fahren oder in Fabriken und Lagern arbeiten, die sie mit Menschen teilen, muss die Sicherheit Hardware, Software, KI-Modelle, Betriebsumgebung und den gesamten Lebenszyklus des Einsatzes abdecken. Eine einmalige Prüfung vor der Inbetriebnahme genügt nicht. Der Beitrag stützt sich auf zwei Prognosen. ABI Research erwartet bis 2035 einen Bestand von 49 Millionen autonomen Fahrzeugen der Stufen 3 bis 5. Omdia schätzt, dass zwischen 2026 und 2035 rund 60 Millionen Industrieroboter eingesetzt werden. In dieser Größenordnung wird jeder Fehler teurer. Hersteller, Aufsichtsbehörden, Versicherer und Arbeitsschutzteams brauchen Belege dafür, dass Hardware, Software, KI-Verhalten und Umgebung ohne menschliches Eingreifen sicher zusammenarbeiten. NVIDIA definiert die Sicherheit von Physical AI als den Nachweis, dass KI-gesteuerte Maschinen sich sicher verhalten, wenn ihre Entscheidungen in physische Handlungen übergehen.

Laut dem Beitrag braucht Physical AI ein neues Sicherheitsmodell, und er nennt vier Verschiebungen. Erstens verlangen dynamische Umgebungen kontextbewusste Sicherheit: Straßen, Fabriken und Lager lassen sich nicht allein durch statische Zonen oder Zäune kontrollieren. Systeme müssen Veränderungen wahrnehmen, ihr Verhalten anpassen und bei Unerwartetem einen sicheren Zustand erreichen. Zweitens braucht das KI-Verhalten eine eigene Absicherung, mit Schutzmechanismen zur Entwurfszeit, zur Laufzeit und zur Validierungszeit, zusätzlich zur klassischen funktionalen Sicherheit. Neue Normen wie ISO/IEC TS 22440 beginnen, KI-spezifische Risiken zu behandeln. Drittens ist der Einsatz nie abgeschlossen: Software- und Modell-Updates, neue Aufgaben und wechselnde Bedingungen können zusätzliche Sicherheitstests erfordern. Viertens braucht die Validierung im großen Maßstab Simulation und synthetische Daten, weil die Zahl der Szenarien mit realen Tests allein nicht abzudecken ist. NVIDIAs Antwort heißt Halos und wird im Beitrag als erstes und einziges Full-Stack-Sicherheitssystem für Physical AI bezeichnet. Das ist eine Aussage des Herstellers und sollte auch so gelesen werden. NVIDIA beruft sich auf mehr als zehn Jahre Arbeit an der Sicherheit autonomer Fahrzeuge, darunter funktionale Sicherheit, Sensorfusion, Absicherung des KI-Verhaltens, Bild-KI, Simulation und Validierung unter realen Bedingungen. Die Prinzipien gelten für Fahrzeuge und Robotik gleichermaßen, während Plattformen, Normen und Nachweise je Bereich verschieden bleiben. Für autonome Fahrzeuge umfasst Halos vier Bereiche. Bei der Hardware liefert NVIDIA DRIVE AGX Thor sicherheitsgerecht entwickelte Rechenleistung, und NVIDIA Hyperion bietet die komplette Fahrzeugplattform samt Referenzarchitektur für Level 4. Bei Betriebssystem und Middleware baut Halos OS auf dem nach ASIL-D zertifizierten DriveOS auf, während Halos Core und Halos Middleware Systemisolierung, Überwachung und deterministische Kommunikation unterstützen. Beim End-to-End-Modell stellt NVIDIA Alpamayo offene Vision-Language-Action-Modelle mit Schlussfolgerung bereit, die Long-Tail-Szenarien erklärbar machen. Für Simulation und Validierung liefert das NVIDIA Halos Safety Evaluation Framework Werkzeuge und Leitlinien, um Nachweise für Sicherheitsargumentationen auf verschiedenen Automatisierungsstufen zu erzeugen. Zusammen verbinden diese Teile die cloudbasierte KI-Entwicklung und Simulation mit dem Einsatz im Fahrzeug, sodass die Nachweise über den Fahrzeuglebenszyklus nachvollziehbar bleiben.

Für die Robotik gliedert sich Halos ebenfalls in Ebenen. Hardware: NVIDIA IGX Thor ist ein Modul in Industriequalität, das beschleunigtes Rechnen und funktionale Sicherheit auf einer Plattform vereint, mit einer eigenen Functional Safety Island, und für Systeme nach Normen wie IEC 61508 und ISO 13849 ausgelegt ist. Software: Halos Core für IGX stellt sicherheitsbezogene Betriebsfunktionen bereit, etwa Fehlererkennung, Überwachung und Berichterstattung, sowie die Kommunikation und Verarbeitung, die Sensoren, Aktoren und andere Sicherheitskomponenten verbindet. Echtzeit-Sensorik: NVIDIA Holoscan Sensor Bridge verbindet Sensordaten mit KI- und sicherheitsbezogener Verarbeitung und hilft, ungültige Informationen zu erkennen und definierte Sicherheitsreaktionen auszulösen. Simulation: Die Bibliotheken NVIDIA Isaac Lab und Omniverse erlauben es, das Roboterverhalten unter relevanten Bedingungen und Grenzfällen zu testen. Sicherheit von außen: Das quelloffene NVIDIA Halos Outside-In Safety Blueprint nutzt externe Kameras und Bild-KI-Agenten, um die Wahrnehmung über die Bordsensoren hinaus zu erweitern. Der Beitrag nennt außerdem das NVIDIA Halos AI Systems Inspection Lab, doch der uns vorliegende Quelltext bricht an dieser Stelle ab, sodass keine Details berichtet werden können.

Drei Entwurfsentscheidungen fallen auf. Sicherheit wird in Ebenen zerlegt, die sich jeweils mit Nachweisen zu einer benannten Norm oder Zertifizierung belegen lassen, etwa ASIL-D, IEC 61508 oder ISO 13849. Das KI-Modell gilt als Komponente mit eigenen Schutzmechanismen. Und eine Außensicht ist Teil des Systems, weil Kameras im Gelände tote Winkel der Bordsensoren ausgleichen. Der Quelltext nennt weder Benchmarks noch Latenzen, Preise oder Kosten, und dieser Bericht rät sie nicht. Für Entwickler und Unternehmen ändert sich vor allem der Prozess: Sicherheitsnachweise werden zu einem laufenden Ergebnis. Jedes Update wirft die Frage auf, ob es eine wesentliche Änderung mit zusätzlichen Tests ist, und Ergebnisse aus Simulation, synthetischen Daten und Realtests müssen zu einer rückverfolgbaren Kette verbunden werden. Die Risiken bleiben: ISO/IEC TS 22440 ist eine noch junge technische Spezifikation, die Full-Stack-Integration birgt die Gefahr der Abhängigkeit von einem Anbieter, die Lücke zwischen Simulation und Realität besteht fort, und eine Sicherheitsargumentation ist ein lebendes Dokument, dessen Pflegeaufwand mit der Flottengröße wächst. Der Beitrag ist daher eher eine Positionsbestimmung als eine Produktvorstellung. Er verschiebt die Frage von der Funktionsfähigkeit der Maschinen hin zur Beweisbarkeit ihrer Sicherheit.