NVIDIA Halos : sécurité pour l'IA physique

NVIDIA a détaillé Halos, une architecture de sécurité full-stack conçue pour les systèmes d'IA physique, véhicules autonomes et robots industriels, appelés à fonctionner à grande échelle dans le monde réel. Ce calendrier reflète autant un problème d'échelle qu'un problème de sécurité : ABI Research prévoit un parc installé de 49 millions de véhicules autonomes et 60 millions de robots industriels d'ici 2035.

À cette échelle, un contrôle de sécurité unique, effectué tardivement dans le développement, ne suffit plus. Les systèmes d'IA physique évoluent dans des environnements dynamiques et non contrôlés, où les machines partagent l'espace avec des humains, et l'argument de NVIDIA est que la sécurité doit être conçue dans chaque couche de la pile, et non ajoutée à la fin.

Cinq couches, une seule architecture

Halos s'organise autour de cinq couches que NVIDIA présente comme fonctionnant ensemble plutôt que comme des modules indépendants. Au niveau de la conception et du matériel, DRIVE AGX Thor pour les véhicules et IGX Thor pour la robotique fournissent une puissance de calcul conçue pour la sécurité, construite autour d'« îlots de sécurité fonctionnelle » (Functional Safety Islands) dédiés. Au-dessus se trouve une fondation logicielle : Halos OS, qui s'appuie sur DriveOS, certifié ASIL-D, associé à Halos Core et à une couche middleware qui gèrent l'isolation du système et une communication déterministe entre les composants.

La troisième couche, l'assurance du comportement de l'IA, fait appel à NVIDIA Alpamayo, qui apporte de l'explicabilité aux cas limites et traite des risques propres à la prise de décision de l'IA, au-delà de ce que couvre l'ingénierie de sécurité fonctionnelle traditionnelle. Une quatrième couche gère la validation, combinant la simulation dans Isaac Lab et Omniverse avec des tests en conditions réelles dans ce que NVIDIA appelle le Halos Safety Evaluation Framework. La cinquième couche, la surveillance opérationnelle, utilise le Halos Sensor Bridge avec un « Outside-In Safety Blueprint » pour valider en continu les capteurs et offrir aux exploitants des installations une supervision une fois le système déployé.

Le vrai problème : prouver la sécurité de bout en bout

L'affirmation centrale derrière Halos concerne moins une couche particulière que la charge de la preuve désormais imposée aux développeurs : ils doivent démontrer que le matériel, le logiciel, le comportement de l'IA et l'environnement d'exploitation peuvent fonctionner ensemble en toute sécurité, sans intervention humaine, tout au long du cycle de vie du véhicule ou du robot, et pas seulement au moment du déploiement.

Ce cadrage compte parce qu'il représente une barre bien plus haute que la certification isolée d'une puce ou d'un capteur. Les normes de sécurité fonctionnelle traditionnelles ont été conçues pour des systèmes aux modes de défaillance prévisibles, alors que l'IA physique ajoute une dimension où les décisions du logiciel lui-même, et pas seulement les défaillances des composants, doivent être validées et surveillées en continu.

Un pari sur l'écosystème

NVIDIA ne déploie pas Halos seul. Côté véhicules, Geely, Nissan (avec Wayve), Isuzu et Einride figurent comme constructeurs, aux côtés des fournisseurs de mobilité Uber, Grab et Lyft.

En robotique, Agility Robotics, KION Group et NexCOBOT intègrent IGX Thor. Un écosystème de soutien plus large, couvrant les capteurs, les semi-conducteurs et la validation, inclut Bosch, Hesai, Sony, Valeo, QNX, Infineon et NXP. Cette ampleur suggère que NVIDIA positionne Halos non pas comme un produit unique, mais comme un socle de sécurité partagé sur lequel les partenaires de toute la chaîne d'approvisionnement de l'IA physique peuvent s'appuyer, ce qui constitue en soi un pari : une architecture commune réduit le coût de certification pour tous les acteurs impliqués.

Certifications et points à surveiller

NVIDIA cite des validations tierces déjà en cours : TÜV SÜD a certifié DriveOS selon la norme ISO 26262 ASIL D, TÜV Rheinland inspecte IGX Thor et Holoscan pour évaluer leur maturité en matière de sécurité fonctionnelle, et ANAB a accrédité le Halos AI Systems Inspection Lab en tant qu'organisme ISO/IEC 17020. Pour les régulateurs et les assureurs, une architecture en couches et de bout en bout comme celle-ci pourrait à terme offrir une manière plus lisible d'évaluer le risque que la simple observation des statistiques de résultats, puisque chaque couche conserve sa propre trace de certification auditable.

Cela dit, la sécurité de l'IA physique diffère de celle de l'IA purement numérique : un agent logiciel défaillant peut être annulé, mais un véhicule ou un robot évoluant parmi des personnes ne peut pas simplement défaire une action physique, ce qui explique pourquoi le discours de NVIDIA insiste tant sur la surveillance continue plutôt que sur les seuls tests avant déploiement. Les points à surveiller : si Halos devient une norme de fait à laquelle d'autres piles de sécurité pour l'IA physique seront comparées, la rapidité avec laquelle les constructeurs et intégrateurs robotiques cités livreront réellement des produits certifiés, et si les organismes de certification mentionnés élargiront leur périmètre à mesure que les prévisions de parc pour 2035 seront confrontées à la réalité.