フィジカルAIの大規模展開には、あらゆる層での安全性が必要

2026年9月21日、NVIDIAは公式ブログで、Riccardo Mariani氏による記事「フィジカルAIを大規模に展開するには、あらゆる層で安全性が必要になる」を公開しました。主張は明快です。自動運転車、ヒューマノイドロボット、産業用ロボットなどのAI駆動の機械が、道路や、人と共有する工場・倉庫に入っていく以上、安全性はハードウェア、ソフトウェア、AIモデル、運用環境、そして展開のライフサイクル全体に及ぶ必要があります。展開前の一度きりの確認では足りません。 記事はまず二つの予測を挙げます。ABI Researchは、2035年までにレベル3から5の自動運転車の導入台数が4,900万台になると予測しています。Omdiaは、2026年から2035年の間に約6,000万台の産業用ロボットが展開されると推計しています。規模が大きくなるほど、一件の不具合が与える影響は大きくなります。メーカー、規制当局、保険会社、職場の安全担当者は、ハードウェア、ソフトウェア、AIの挙動、運用環境が人の介入なしに安全に連携できるという証拠を求めます。NVIDIAは、フィジカルAIの安全性を、AI駆動の機械の判断が物理的な行動に変わるときに安全に振る舞うことを証明すること、と定義しています。

なぜ新しい安全モデルが必要なのか。記事は四つの変化を挙げています。第一に、動的な環境には文脈を理解する安全性が必要です。道路、工場、倉庫は固定のゾーンや柵だけでは制御できず、システムは環境の変化を認識し、振る舞いを調整し、想定外のときには安全な状態に移行しなければなりません。第二に、AIの挙動には独自の保証が必要です。従来の機能安全に加えて、設計時、実行時、検証時のガードレールでAIソフトウェアを評価します。ISO/IEC TS 22440のような新しい規格が、AI特有のリスクに対応し始めています。第三に、展開は継続的です。ソフトウェアやモデルの更新、新しいタスク、変化する条件によって、重要な変更には追加の安全試験が必要になることがあります。第四に、大規模な検証にはシミュレーションと合成データが欠かせません。シナリオの数と複雑さは、実環境の試験だけでは扱えないからです。

NVIDIAの回答がHalosです。記事はこれを、フィジカルAI向けの初の、そして唯一のフルスタック安全システムと呼んでいます。これはベンダー自身の主張であり、そのように受け取る必要があります。NVIDIAは、機能安全、センサーフュージョン、AI挙動の保証、ビジョンAI、シミュレーション、実環境での検証を含む、10年以上の自動運転安全の開発を土台にしていると述べています。原則は自動運転とロボティクスで共通ですが、プラットフォーム、規格、証拠は分野ごとに異なる、と記事は強調します。 自動運転向けのHalosは四つの領域にまたがります。ハードウェアでは、NVIDIA DRIVE AGX Thorが安全設計された高速コンピューティングを提供し、NVIDIA Hyperionがレベル4向けの車両プラットフォームとリファレンスアーキテクチャを提供します。OSとミドルウェアでは、Halos OSがASIL-D認証のDriveOSの上に構築され、Halos CoreとHalos Middlewareがシステムの分離、監視、決定論的な通信を支えます。エンドツーエンドのモデルでは、NVIDIA Alpamayoが、ロングテールの場面に説明可能性をもたらす、推論型のオープンなビジョン言語行動モデルを提供します。シミュレーションと検証では、NVIDIA Halos Safety Evaluation Frameworkが、自動化レベルごとのセーフティケースを裏づける証拠を作るためのツールとガイドラインを提供します。これらがクラウド上のAI開発やシミュレーションと車載展開をつなぎ、安全の証拠を車両のライフサイクル全体で追跡できるようにします。

ロボティクス向けのHalosも層に分かれています。ハードウェアでは、NVIDIA IGX Thorが、高速コンピューティングと機能安全を一つのプラットフォームにまとめた産業用モジュールで、専用のFunctional Safety Islandを備え、IEC 61508やISO 13849などの規格を目指すシステムに対応するよう設計されています。ソフトウェアでは、IGX向けのHalos Coreが、故障検出、監視、報告といった安全関連の機能と、センサーやアクチュエーターなどの安全部品をつなぐ通信と処理を提供します。リアルタイムのセンシングでは、NVIDIA Holoscan Sensor Bridgeがセンサーデータを、AIと安全関連の処理につなぎ、無効な情報を見つけて、定められた安全応答を実行する助けになります。シミュレーションでは、NVIDIA Isaac LabとOmniverseのライブラリで、関連する条件やエッジケースでのロボットの挙動を試し、実環境での検証を補います。外側からの安全では、オープンソースのNVIDIA Halos Outside-In Safety Blueprintが、外部カメラとビジョンAIエージェントで、機体搭載センサーを超える認識範囲を広げ、施設レベルの監視を支えます。記事はNVIDIA Halos AI Systems Inspection Labにも触れていますが、受け取った原文はこの箇所で途切れているため、詳細は確認できません。

設計上の特徴は三つあります。一つ目は、安全を層に分け、各層をASIL-D、IEC 61508、ISO 13849のような具体的な規格や認証に結びついた証拠で裏づけられるようにしている点です。二つ目は、AIモデルを独自のガードレールが必要な部品として扱っている点です。三つ目は、外部の視点をシステムに含めている点で、現場のカメラが機体搭載センサーの死角を補います。なお、原文にはベンチマーク、遅延、価格、コストの数字がなく、本稿もそれらを推測しません。 開発者と企業にとっての実務上の変化は、プロセスにあります。安全の証拠は、継続的に作られる成果物になります。モデルやソフトウェアを更新するたびに、重要な変更に当たるか、追加試験が必要かを判断し、シミュレーション、合成データ、実環境試験の結果を追跡可能な鎖としてつなぐ必要があります。購入者、保険会社、規制当局にとっては、共通のリファレンスアーキテクチャと規格との対応づけが評価の負担を下げますが、見るべきは供給元の名前ではなく証拠そのものです。 課題も残ります。ISO/IEC TS 22440は技術仕様書であり、まだ初期段階です。AI安全の指標や受入基準は形成途中で、フルスタック製品と規格の対応づけには独立した監査が必要です。ハードウェア、OS、モデル、検証ツールが一社から提供される場合は、ベンダーロックインのリスクもあります。シミュレーションと現実の差は残り、合成データがロングテールをどこまで覆えるかは、外部の検証が必要です。継続的な展開では、セーフティケースは生きた文書になり、維持の負担は台数とともに増えます。全体として、この記事は製品発表というより位置づけの表明です。その価値は、業界の問いを、機械が動くかどうかから、安全を証明できるかどうかへ移した点にあります。