NVIDIA Vera Rubin NVL72 excelle dans MLPerf Inference v6.1
Les performances du système, une mise à l'échelle efficace de l'infrastructure et l'optimisation logicielle continue sont des leviers clés qui déterminent l'économie de l'inférence IA. Des performances système plus élevées signifient plus de jetons générés, ce qui se traduit par des revenus plus élevés. Une mise à l'échelle efficace signifie que le débit augmente proportionnellement à mesure que le matériel est ajouté.
Contexte
Lors du benchmark MLPerf Inference v6.1, le système NVL72 basé sur l'architecture Vera Rubin de NVIDIA a réalisé des performances de pointe, notamment en inférence de grands modèles de langage. MLPerf, référence incontestée du secteur, couvre des tâches variées allant de la vision par ordinateur à l'IA générative. Cette première soumission signale un basculement stratégique vers l'économie de l'inférence.
La caractéristique clé du NVL72 est sa scalabilité quasi linéaire : le débit augmente proportionnellement au nombre de GPU. Cette efficacité de mise à l'échelle réduit directement le coût par jeton généré, un facteur critique pour les services cloud confrontés à des requêtes massives. NVIDIA démontre ainsi que l'infrastructure est aussi déterminante que la puissance brute des puces.
Analyse approfondie
Les performances du Vera Rubin NVL72 reposent sur une triple évolution. Au niveau matériel, le GPU Vera Rubin utilise un processus avancé, une mémoire HBM élargie et un Transformer Engine optimisé pour le calcul en précision mixte FP8, accélérant les opérations matricielles tout en réduisant la consommation énergétique. L'interconnexion NVLink fusionne 72 GPU en un nœud à mémoire partagée avec une bande passante de plusieurs téraoctets par seconde, éliminant les goulets d'étranglement pour le parallélisme de tenseur et de pipeline.
Côté logiciel, TensorRT-LLM a été profondément optimisé via la fusion d'opérateurs et le réglage automatique des noyaux, compilant les modèles en instructions hautement parallèles. Cette synergie permet au NVL72 de traiter des modèles de centaines de milliards de paramètres avec une latence par jeton extrêmement faible et un débit système évoluant linéairement avec le nombre de GPU, une combinaison indispensable pour l'inférence cloud en production.
Impact sur l'industrie
Pour les fournisseurs cloud, le coût d'inférence est déterminant. Le débit élevé et la scalabilité linéaire du Vera Rubin améliorent l'économie unitaire, accélérant la migration depuis les architectures Hopper et Blackwell et pouvant déclencher de nouveaux investissements.
La pression concurrentielle s'intensifie sur AMD et Intel : la série MI300 reste en retrait sur l'écosystème d'inférence, et les accélérateurs Gaudi souffrent d'une adoption limitée. Les puces personnalisées (TPU Google, Trainium AWS) excellent dans des charges spécifiques mais manquent de la généralité de CUDA. Vera Rubin renforce ainsi la position de NVIDIA comme standard de facto, réduisant l'espace pour les acteurs de second rang.
Perspectives
Le calendrier de production du Vera Rubin au second semestre 2026 et les premières livraisons détermineront l'offre de calcul IA ; une montée en puissance réussie pourrait entraîner des révisions à la hausse des dépenses cloud. MLPerf intègre progressivement des charges d'IA générative comme les modèles multimodaux et le RAG, et les performances sur ces tâches influenceront la compétitivité à long terme.
La stratégie logicielle de NVIDIA pourrait se concentrer sur des conteneurs d'inférence verticaux, verrouillant la plateforme. Les réponses des concurrents – AMD avec CDNA 4, ou des clients comme OpenAI et Microsoft investissant dans des puces personnalisées – pourraient perturber le marché. Enfin, l'accent sur l'économie de l'inférence favorise de nouveaux modèles comme la location basée sur le débit de jetons. Les débuts du Vera Rubin NVL72 dans MLPerf constituent une déclaration stratégique pour l'ère de l'inférence.