Microsoft dope les robots grâce à l’inférence déportée

Microsoft déporte l’inférence. L’inférence exécutée sur des GPU en périphérie ou dans le cloud peut offrir des avantages importants face à une exécution entièrement embarquée. Cette approche améliore les taux de réussite des tâches robotiques. Elle permet aussi d’utiliser des modèles d’IA plus grands. Les robots répondent alors plus efficacement dans des environnements dynamiques. L’inférence déportée concerne notamment la cartographie, la planification, la navigation et la manipulation. Microsoft présente cette architecture pour l’IA physique et la robotique réelle. La publication détaille également des compromis liés aux performances, à la latence réseau, à la bande passante et aux ressources GPU disponibles. Lire l’analyse de Microsoft.

Le calcul embarqué limite les capacités. L’approche courante de l’IA physique consiste à installer un GPU directement sur le robot. Cette configuration limite ses capacités d’inférence. Des GPU embarqués plus grands, comme le Jetson Thor, peuvent aussi augmenter fortement la consommation énergétique. Microsoft indique qu’ils peuvent vider les batteries des robots jusqu’à 160 %. Le remplacement du calcul embarqué par un matériel léger et une inférence distante peut améliorer l’autonomie. Il peut également prolonger la durée de fonctionnement du robot. L’architecture sépare ainsi l’équipement mobile des ressources nécessaires aux modèles plus exigeants. Les tâches concernées incluent la cartographie, la planification, la navigation et la manipulation.

L’inférence distante élargit les capacités

Les modèles gagnent en taille. Le déport de l’inférence permet aux robots d’utiliser des modèles d’IA plus grands que ceux associés à un calcul exclusivement embarqué. Cette capacité s’accompagne d’une amélioration des taux de réussite des tâches. Elle aide aussi les robots à répondre plus efficacement dans des environnements dynamiques. Les bénéfices couvrent plusieurs fonctions opérationnelles. La cartographie, la planification, la navigation et la manipulation font partie des tâches citées. Le matériel installé sur le robot peut rester plus léger lorsque le calcul est effectué sur des GPU en périphérie ou dans le cloud. Cette configuration peut également améliorer la durée de fonctionnement grâce à une consommation embarquée réduite.

Kubernetes structure les déploiements. Les développeurs peuvent désormais utiliser des outils fondés sur Kubernetes pour déployer et orchestrer des charges de travail d’IA robotique. Ces outils fonctionnent sur différentes infrastructures. Ils accompagnent donc une architecture qui répartit l’inférence entre le robot, la périphérie et le cloud. Cette répartition doit toutefois tenir compte de la performance, de la latence réseau, de la bande passante et des ressources GPU disponibles. Ces quatre paramètres constituent les principaux compromis de l’approche. Le calcul distant ne supprime donc pas les contraintes techniques. Il fournit une méthode pour associer du matériel robotique léger à des ressources de calcul accessibles à distance. Voir l’outillage Kubernetes de Microsoft.

Les compromis restent techniques. L’inférence déportée peut améliorer la performance des robots, mais son fonctionnement dépend des ressources disponibles et de la qualité des communications. La latence réseau peut affecter la réponse d’un robot. La bande passante peut aussi limiter les échanges nécessaires. Les ressources GPU disponibles constituent un autre facteur de décision. Microsoft présente donc cette architecture comme un arbitrage entre performance, latence, bande passante et calcul. Les bénéfices établis concernent les taux de réussite, la taille des modèles, la réponse dans les environnements dynamiques et la durée de fonctionnement. Le choix du calcul embarqué ou distant dépend ainsi des tâches robotiques et de l’infrastructure mobilisée.