Microsoft muscle les robots en déportant leur inférence

Microsoft déporte l’inférence. L’exécution de l’inférence d’IA physique uniquement sur les GPU intégrés peut limiter les performances des robots, leur autonomie et leur capacité de déploiement à grande échelle. Microsoft présente le déport de cette inférence vers des GPU en périphérie ou dans le cloud comme une autre architecture. Cette approche a amélioré les taux de réussite des tâches et permis d’utiliser des modèles d’IA plus grands. Elle a aussi amélioré le temps de réponse, la précision, la durée de vie des batteries et les coûts. L’article de Microsoft Research détaille cette approche pour la robotique physique (lire l’article original).

Les GPU embarqués limitent l’exécution. Une inférence exécutée exclusivement sur le robot concentre le calcul d’IA sur ses GPU intégrés. Cette contrainte peut affecter trois dimensions citées par Microsoft : les performances, la batterie et la capacité de montée en charge. Le déport transfère l’inférence vers des GPU situés en périphérie ou dans le cloud. Microsoft indique que cette organisation peut offrir des avantages significatifs. Elle ne remplace pas l’usage de l’IA physique dans le robot. Elle déplace le calcul d’inférence vers une infrastructure distante. L’objectif décrit est d’obtenir une exécution plus efficace pour les charges de travail robotiques concernées.

Le déport améliore plusieurs résultats

Les tâches réussissent davantage. Le déport de l’inférence a amélioré les taux de réussite des tâches. Il a également permis d’exécuter des modèles d’IA plus grands. Ces deux résultats distinguent l’approche d’une simple réduction du calcul embarqué. Les modèles plus grands correspondent à une capacité d’exécution accrue dans l’architecture déportée. Microsoft associe aussi cette méthode à une amélioration de la précision et du temps de réponse. Ces résultats couvrent donc la qualité des décisions et la rapidité de réponse du robot. Le bénéfice cité porte sur l’inférence elle-même, sans établir de résultat spécifique pour un modèle, un robot ou une tâche particulière.

Le matériel embarqué devient plus léger. Remplacer le calcul d’IA embarqué par du matériel léger et une inférence distante peut améliorer l’autonomie de la batterie. Microsoft relie cette réduction du calcul local à une durée de vie accrue des batteries. Le déport hors du robot a aussi amélioré le temps de réponse, la précision et les coûts. Ces indicateurs forment les résultats rapportés pour l’approche. Ils ne décrivent pas une configuration matérielle unique. Ils caractérisent plutôt les avantages associés au déplacement de l’inférence vers des GPU en périphérie ou dans le cloud. La batterie reste donc un indicateur central de cette architecture robotique.

Kubernetes orchestre les charges robotiques

Les développeurs déploient avec Kubernetes. Les développeurs peuvent conteneuriser, déployer et orchestrer des charges de travail d’IA robotique avec des outils basés sur Kubernetes. Cette capacité fournit une méthode logicielle pour gérer les composants liés à l’inférence déportée. Elle complète le déplacement du calcul vers des GPU en périphérie ou dans le cloud. Le dépôt public physical-ai-toolchain de Microsoft présente l’outillage associé. L’approche couvre ainsi le conditionnement des charges, leur déploiement et leur orchestration. Les faits rapportés relient ces fonctions Kubernetes à la gestion de charges robotiques, sans attribuer de résultat chiffré à un outil précis. Pour aller plus loin, consultez notre guide sur déployer un chatbot IA pour le service client.