엔비디아 헤일로스: 물리적 AI를 위한 풀스택 안전 아키텍처

엔비디아(NVIDIA)가 자율주행차와 산업용 로봇 같은 물리적 AI 시스템을 대규모로 안전하게 운용하기 위한 풀스택 안전 아키텍처 '헤일로스(Halos)'를 공개했다. 이번 발표의 배경에는 안전 문제뿐 아니라 규모의 문제도 있다. ABI 리서치는 2035년까지 자율주행차 보급 대수가 4900만 대, 산업용 로봇이 6000만 대에 이를 것으로 전망한다. 이 정도 규모에서는 개발 후반부의 단일 안전 점검만으로는 충분하지 않다. 물리적 AI 시스템은 동적이고 통제하기 어려운 환경에서 사람과 가까이 상호작용하며 작동하기 때문에, 엔비디아는 안전성을 개발 마지막 단계에 덧붙이는 것이 아니라 스택의 모든 층에 걸쳐 설계해야 한다고 주장한다.

다섯 개 층으로 이루어진 아키텍처

헤일로스는 다섯 개의 층으로 구성되며, 엔비디아는 이를 독립된 모듈이 아니라 서로 협력해 작동하는 하나의 전체로 제시한다. 설계 및 하드웨어 층에서는 차량용 드라이브 AGX 토르(DRIVE AGX Thor)와 로보틱스용 IGX 토르(IGX Thor)가 전용 '기능 안전 아일랜드(Functional Safety Islands)'를 갖춘 안전 설계 컴퓨팅을 제공한다. 그 위에는 소프트웨어 기반 층이 있는데, ASIL-D 인증을 받은 드라이브OS(DriveOS) 위에 구축된 헤일로스 OS가 시스템 격리와 결정론적 통신을 담당하는 헤일로스 코어 및 미들웨어와 결합된다. 세 번째 층인 'AI 행동 보증'은 엔비디아 알파마요(Alpamayo)가 담당하며, 엣지 케이스에 설명 가능성을 부여하고 전통적인 기능 안전 공학으로는 다루지 못하는 AI 고유의 위험을 처리한다. 네 번째 층은 검증으로, 아이작 랩(Isaac Lab)과 옴니버스(Omniverse)에서의 시뮬레이션과, 엔비디아가 '헤일로스 안전 평가 프레임워크'라 부르는 체계 하의 실제 환경 테스트를 결합한다. 다섯 번째 층인 운영 모니터링은 헤일로스 센서 브릿지(Halos Sensor Bridge)와 '아웃사이드-인 안전 청사진(Outside-In Safety Blueprint)'을 활용해 센서를 지속적으로 검증하고, 배치 이후에는 시설 운영자에게 감독 기능을 제공한다.

진짜 과제: 처음부터 끝까지 증명하기

헤일로스의 근본 주장은 개별 층 자체보다, 개발자가 이제 짊어져야 할 입증 책임의 무게에 있다. 하드웨어, 소프트웨어, AI 행동, 운영 환경이 차량이나 로봇의 전체 수명 주기 동안 사람의 개입 없이 안전하게 함께 작동한다는 것을 증명해야 하며, 이는 배치 시점 한 순간만의 문제가 아니다. 이 틀이 중요한 이유는 칩이나 센서 하나를 개별적으로 인증하는 것보다 훨씬 높은 기준이기 때문이다. 전통적인 기능 안전 표준은 예측 가능한 고장 모드를 가진 시스템을 위해 만들어졌지만, 물리적 AI에서는 부품 고장뿐 아니라 소프트웨어 자체의 판단도 지속적인 검증과 모니터링의 대상이 된다.

생태계에 건 베팅

엔비디아는 헤일로스를 혼자 밀어붙이고 있지 않다. 차량 쪽에서는 지리(Geely), 닛산(Nissan, 웨이브(Wayve)와 협업), 이스즈(Isuzu), 아인라이드(Einride)가 제조사로 이름을 올렸고, 우버(Uber), 그랩(Grab), 리프트(Lyft)가 모빌리티 서비스 제공업체로 참여한다. 로보틱스 분야에서는 애질리티 로보틱스(Agility Robotics), 키온 그룹(KION Group), 넥스코봇(NexCOBOT)이 IGX 토르를 통합하고 있다. 센서, 반도체, 검증에 걸친 더 넓은 지원 생태계에는 보쉬(Bosch), 헤사이(Hesai), 소니(Sony), 발레오(Valeo), QNX, 인피니언(Infineon), NXP가 포함된다. 이러한 폭은 엔비디아가 헤일로스를 단일 제품이 아니라 물리적 AI 공급망 전체가 공유할 수 있는 안전 기반으로 자리매김하고 있음을 보여준다. 이는 동시에 공통 아키텍처가 모든 참여자의 인증 비용을 낮춰줄 것이라는 베팅이기도 하다.

인증 현황과 앞으로 지켜볼 점

엔비디아는 이미 진행 중인 제3자 검증도 언급했다. TÜV 쥐트(TÜV SÜD)는 드라이브OS를 ISO 26262 ASIL D 등급으로 인증했고, TÜV 라인란트(TÜV Rheinland)는 IGX 토르와 홀로스캔(Holoscan)의 기능 안전 준비 상태를 검사 중이며, ANAB는 헤일로스 AI 시스템 검사 연구소를 ISO/IEC 17020 적합 검사 기관으로 인정했다. 규제 당국과 보험사 입장에서, 이런 계층적이고 처음부터 끝까지 이어지는 아키텍처는 각 층마다 감사 가능한 인증 이력이 남는 만큼, 결과 통계만으로 자율 시스템의 위험을 평가하는 방식보다 더 명확하게 설명 가능한 위험 평가 수단이 될 수 있다. 다만 물리적 AI의 안전 문제는 순수한 디지털 AI의 안전 문제와는 다르다. 잘못을 저지른 소프트웨어 에이전트는 롤백할 수 있지만, 사람들 사이에서 움직이는 차량이나 로봇은 물리적 동작을 단순히 되돌릴 수 없다. 바로 이 때문에 엔비디아의 설명은 배치 전 테스트뿐 아니라 지속적인 모니터링을 그토록 강조하는 것으로 보인다. 앞으로 지켜볼 지점은, 헤일로스가 다른 물리적 AI 안전 스택이 비교되는 사실상의 표준이 될 것인지, 이름이 거론된 제조사와 로보틱스 통합업체들이 실제로 얼마나 빠르게 인증받은 제품을 출시할 것인지, 그리고 2035년 보급 대수 전망이 현실의 검증을 받아가면서 여기 언급된 인증 기관들이 심사 범위를 더 넓힐 것인지다.