En résumé
Lambda relie plus de 10 000 GPU NVIDIA GB300 avec des commutateurs photoniques.
Les tests indiquent une baisse de latence pouvant atteindre 10 % à l’échelle d’un pod.
La température médiane des optiques atteint 36 °C, contre 51 °C avec des optiques classiques.
Le signal : Lambda mesure jusqu’à 10 % de latence en moins à l’échelle d’un pod avec NVIDIA Photonics.
Vous appréciez ce genre d'analyse ?
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs abonnés
Lambda connecte plus de 10 000 GPU avec des commutateurs photoniques NVIDIA. Le déploiement relie des baies NVIDIA GB300 NVL72 au sein d’une infrastructure destinée aux charges d’intelligence artificielle. Les commutateurs utilisés disposent de 144 ports fonctionnant à 800 Gb/s. Lambda a testé cette architecture à l’échelle des baies et des pods. La latence réseau a diminué d’environ 4 % à l’échelle d’une baie. Elle a baissé jusqu’à environ 10 % à l’échelle d’un pod. Ces résultats proviennent des tests menés par Lambda avec les commutateurs NVIDIA Photonics. NVIDIA présente la plateforme GB300 NVL72.
Les baies changent d’échelle lorsque les grappes d’IA regroupent plusieurs milliers de processeurs graphiques. Dave Ward, président des services cloud de Lambda, affirme que le réseau doit suivre les besoins de ces grappes toujours plus grandes. Une liaison interrompue peut immobiliser des milliers de GPU pendant un entraînement de grande ampleur, selon l’affirmation attribuée à la source. Lambda utilise donc des commutateurs à optique intégrée pour relier ses baies NVIDIA GB300 NVL72. Cette architecture associe 144 ports à 800 Gb/s sur chaque commutateur utilisé dans le déploiement. Lambda décrit son déploiement à grande échelle.
Les tests Lambda montrent une baisse d’environ 4 % de la latence réseau à l’échelle d’une baie. À l’échelle d’un pod, la réduction atteint environ 10 %. Ces mesures concernent l’utilisation des commutateurs NVIDIA Photonics dans le déploiement reliant les baies NVIDIA GB300 NVL72. Le matériel prend en charge 144 ports fonctionnant à 800 Gb/s. La comparaison distingue deux niveaux d’organisation du réseau, la baie et le pod. Elle relie ces résultats aux échanges entre plusieurs groupes de GPU. La source attribue aussi aux commutateurs NVIDIA Photonics une réponse aux besoins d’efficacité énergétique et de résilience des infrastructures d’IA.
La température baisse également dans les mesures communiquées par Lambda. La température médiane des optiques atteint 36 °C avec NVIDIA Photonics. Elle s’établit à 51 °C avec des optiques enfichables classiques. NVIDIA indique jusqu’à cinq fois plus d’efficacité énergétique et jusqu’à quinze fois plus de fiabilité que ces optiques conventionnelles. Chaque commutateur NVIDIA Photonics intègre 18 sources lumineuses externes amovibles. Ces sources alimentent les moteurs optiques du commutateur. La conception combine donc des sources remplaçables, des connexions à 800 Gb/s et une mesure de température inférieure dans les tests rapportés par Lambda.
Les sources externes constituent un élément distinct de chaque commutateur NVIDIA Photonics. Chaque unité en compte 18, et ces sources fournissent la lumière aux moteurs optiques. Lambda emploie cette architecture pour connecter ses baies NVIDIA GB300 NVL72 dans une installation dépassant 10 000 GPU. Les résultats annoncés associent cette configuration à une latence réduite, une température médiane de 36 °C et des performances annoncées par NVIDIA face aux optiques enfichables classiques. La page consacrée à la silicium photonique de NVIDIA présente cette famille de solutions réseau. Les tests de Lambda portent sur les échelles de baie et de pod.
Gardez un coup d'avance en IA et tech.
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Zéro spam.
+11 000 fondateurs abonnés