Par Arthur Dekeyser
En résumé
NVIDIA relie Palantir Foundry et cuOpt pour planifier ses allocations industrielles.
Un rack Grace Blackwell NVL72 rassemble 18 plateaux et des composants issus de milliers de partenaires.
Nemotron 3.5 Lightning atteint 86,7 % de précision sur les décisions historiques d’allocation.
Le signal : Nemotron 3.5 Lightning atteint 86,7 % de précision contre 55,5 % pour Nemotron 3 Ultra.
Vous appréciez ce genre d'analyse ?
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs abonnés
NVIDIA automatise ses décisions d’allocation de composants avec Palantir Foundry et cuOpt dans ses sites de fabrication mondiaux. L’entreprise mesure le délai opérationnel entre la sortie des plaquettes et le premier jeton produit. Cette période comprend le temps nécessaire pour acheminer les composants, assembler un système de centre de données, puis préparer l’alimentation, le refroidissement, le réseau et les logiciels initiaux. NVIDIA applique cette mesure à ses flux matériels, notamment ceux associés aux architectures Grace Blackwell et Vera Rubin. La société a présenté cette organisation autour d’un centre de commande appelé Digital Supply Chain Intelligence. (Lire l’article original)
Les composants contraignent directement les allocations d’usine. Un rack Grace Blackwell NVL72 contient 18 plateaux de calcul. Chaque plateau nécessite deux processeurs Grace, quatre processeurs graphiques Blackwell et 32 boîtiers de mémoire HBM3e. Ces éléments proviennent de milliers de fournisseurs, fabricants et partenaires de conception sous contrat. Le réseau prévu pour l’architecture Vera Rubin sera deux fois plus vaste que celui de Grace Blackwell. L’assemblage attend les pièces issues de trois canaux désignés. Il s’agit des stocks directs, des stocks en consignation et des fournisseurs externes. Les allocations sont révisées chaque semaine sur des horizons glissants de deux trimestres.
Foundry structure les sites, engagements fournisseurs, stocks de composants et objectifs de production comme des objets reliés. NVIDIA cuOpt lit directement cette couche opérationnelle. Cette bibliothèque à code ouvert optimise les décisions sur processeurs graphiques. Elle formule la distribution comme un programme linéaire en nombres entiers mixtes. Le modèle cherche à réduire le délai de possession, défini entre la réception des matériaux par un site et l’expédition des sous-ensembles terminés. cuOpt produit des calendriers hebdomadaires. Il repère aussi des limites actives, comme les plafonds régionaux de capacité d’assemblage face à la disponibilité de la mémoire brute.
Les données qualitatives complètent l’optimisation mathématique utilisée par les planificateurs. NVIDIA cite les comptes rendus d’appels fournisseurs, les prévisions météorologiques régionales, les échanges avec les partenaires et les événements géopolitiques. L’entreprise a post-entraîné Nemotron 3.5 Lightning pour intégrer ces variables opérationnelles non structurées. Ce modèle à mélange d’experts et poids ouverts compte 30 milliards de paramètres au total. Environ trois milliards de paramètres sont actifs à chaque passage. NeMo Anonymizer masque les champs sensibles. NeMo Data Designer équilibre les exemples avec des scénarios synthétiques de perturbation. NeMo AutoModel applique des paramètres LoRA en conservant les poids de base gelés.
Le modèle spécialisé a atteint 86,7 % de précision sur des historiques d’allocation. Nemotron 3 Ultra, pourtant plus grand, a obtenu 55,5 %. La version Lightning non ajustée a atteint 17,5 %. La précision équilibrée du modèle post-entraîné s’élève à 58,6 %, contre 42 % pour Nemotron 3 Ultra. Son score macro-F1 atteint 57,5 %, contre 39,5 % pour le modèle de comparaison. L’ajustement du domaine a été réalisé en quelques minutes avec deux processeurs graphiques NVIDIA B200. Les prévisions de risque de production plus éloignées restent difficiles, selon les résultats opérationnels présentés. (Consulter la publication source)
Gardez un coup d'avance en IA et tech.
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Zéro spam.
+11 000 fondateurs abonnés