NVIDIA Halos: Full-Stack-Sicherheit für physische KI

NVIDIA hat Halos vorgestellt, eine Full-Stack-Sicherheitsarchitektur für physische KI-Systeme, autonome Fahrzeuge und Industrieroboter, die im großen Maßstab in der realen Welt eingesetzt werden sollen. Der Zeitpunkt spiegelt ebenso sehr ein Skalierungsproblem wie ein Sicherheitsproblem wider: ABI Research prognostiziert bis 2035 einen installierten Bestand von 49 Millionen autonomen Fahrzeugen und 60 Millionen Industrierobotern.

Bei dieser Größenordnung reicht eine einzelne Sicherheitsprüfung spät in der Entwicklung nicht mehr aus. Physische KI-Systeme arbeiten in dynamischen, unkontrollierten Umgebungen, in denen Maschinen sich den Raum mit Menschen teilen. Deshalb argumentiert NVIDIA, dass Sicherheit in jede Schicht des Stacks eingebaut werden muss und nicht erst am Ende hinzugefügt werden darf.

Fünf Schichten, eine Architektur

Halos ist in fünf Schichten organisiert, die NVIDIA als zusammenwirkendes Ganzes darstellt und nicht als unabhängige Module. Auf der Ebene von Design und Hardware liefern DRIVE AGX Thor für Fahrzeuge und IGX Thor für Robotik sicherheitsorientierte Rechenleistung, die um dedizierte „Functional Safety Islands" herum aufgebaut ist. Darüber liegt eine Software-Grundlage: Halos OS, das auf dem ASIL-D-zertifizierten DriveOS aufbaut, zusammen mit Halos Core und einer Middleware-Schicht, die Systemisolation und deterministische Kommunikation zwischen Komponenten ermöglichen.

Die dritte Schicht, die KI-Verhaltensabsicherung, wird von NVIDIA Alpamayo getragen, das Randfällen Erklärbarkeit verleiht und Risiken adressiert, die spezifisch für KI-Entscheidungen sind und nicht von traditioneller funktionaler Sicherheitstechnik abgedeckt werden. Eine vierte Schicht übernimmt die Validierung und kombiniert Simulation in Isaac Lab und Omniverse mit realen Tests unter dem, was NVIDIA das Halos Safety Evaluation Framework nennt. Die fünfte Schicht, das operative Monitoring, nutzt die Halos Sensor Bridge zusammen mit einem „Outside-In Safety Blueprint", um Sensoren fortlaufend zu validieren und Betreibern von Einrichtungen nach der Bereitstellung eine Aufsichtsfunktion zu geben.

Das eigentliche Problem: Der Nachweis von Anfang bis Ende

Die zentrale Behauptung hinter Halos betrifft weniger eine einzelne Schicht als vielmehr die Beweislast, die Entwickler nun tragen müssen: Sie müssen zeigen, dass Hardware, Software, KI-Verhalten und Betriebsumgebung über den gesamten Lebenszyklus eines Fahrzeugs oder Roboters hinweg sicher und ohne menschliches Eingreifen zusammenarbeiten können, nicht nur im Moment der Bereitstellung.

Diese Einordnung ist wichtig, weil sie eine weitaus höhere Hürde darstellt als die isolierte Zertifizierung eines Chips oder Sensors. Traditionelle Standards für funktionale Sicherheit wurden für Systeme mit vorhersehbaren Fehlermodi entwickelt, während physische KI eine zusätzliche Dimension mit sich bringt: Nicht nur Bauteilausfälle, sondern auch die Entscheidungen der Software selbst müssen fortlaufend validiert und überwacht werden.

Eine Wette auf das Ökosystem

NVIDIA setzt Halos nicht allein um. Auf der Fahrzeugseite werden Geely, Nissan (in Zusammenarbeit mit Wayve), Isuzu und Einride als Hersteller genannt, neben den Mobilitätsanbietern Uber, Grab und Lyft.

In der Robotik integrieren Agility Robotics, KION Group und NexCOBOT den IGX Thor. Ein breiteres Unterstützungsökosystem, das Sensoren, Halbleiter und Validierung umfasst, schließt Bosch, Hesai, Sony, Valeo, QNX, Infineon und NXP ein. Diese Breite deutet darauf hin, dass NVIDIA Halos weniger als einzelnes Produkt positioniert, sondern eher als gemeinsame Sicherheitsbasis, auf der Partner entlang der gesamten Lieferkette für physische KI aufbauen können, was selbst eine Wette darstellt: Eine gemeinsame Architektur senkt die Zertifizierungskosten für alle Beteiligten.

Zertifizierungen und Ausblick

NVIDIA verweist auf bereits laufende externe Prüfungen: TÜV SÜD hat DriveOS nach ISO 26262 ASIL D zertifiziert, TÜV Rheinland prüft IGX Thor und Holoscan auf ihre funktionale Sicherheitsreife, und ANAB hat das Halos AI Systems Inspection Lab als ISO/IEC-17020-Prüfstelle akkreditiert. Für Regulierungsbehörden und Versicherer könnte eine derart geschichtete, durchgängige Architektur langfristig eine nachvollziehbarere Grundlage zur Risikobewertung bieten als die bloße Betrachtung von Ergebnisstatistiken, da jede Schicht ihre eigene auditierbare Zertifizierungsspur hinterlässt.

Allerdings unterscheidet sich die Sicherheit physischer KI von der rein digitaler KI: Ein fehlerhafter Software-Agent lässt sich zurücksetzen, aber ein Fahrzeug oder ein Roboter, das sich unter Menschen bewegt, kann eine physische Handlung nicht einfach rückgängig machen. Das erklärt, warum NVIDIAs Darstellung so stark auf kontinuierliches Monitoring setzt und nicht nur auf Tests vor der Bereitstellung. Zu beobachten bleibt, ob Halos zu einem faktischen Standard wird, an dem andere Sicherheitsarchitekturen für physische KI gemessen werden, wie schnell die genannten Hersteller und Robotik-Integratoren tatsächlich zertifizierte Produkte ausliefern, und ob die hier genannten Zertifizierungsstellen ihren Prüfumfang erweitern, sobald sich die Bestandsprognosen für 2035 an der Realität messen lassen müssen.