Par Arthur Dekeyser
En résumé
Microsoft revoit l'approche IA pour maximiser la valeur par token.
Le modèle GPT-5.6 Sol devient la norme pour ses ingénieurs.
Les coûts d'inférence deviennent cruciaux dans les stratégies IA.
Le signal : GPT-5.6 Sol est le nouveau modèle IA par défaut chez Microsoft.
Vous appréciez ce genre d'analyse ?
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs
Microsoft a récemment décidé de modifier l’approche d’utilisation de l’IA générative par ses équipes. Dans une note interne révélée par 404 Media, Jay Parikh, vice-président exécutif de CoreAI, encourage les ingénieurs à maximiser la valeur par token, au lieu de simplement viser le nombre maximal de tokens utilisés. Cette initiative se concrétise par l’implémentation de GPT-5.6 Sol d’OpenAI comme modèle par défaut pour GitHub Copilot au sein de l’entreprise, bien que d’autres modèles puissent être utilisés si jugés plus pertinents.
Contexte économique des tokens : L’adoption de GPT-5.6 Sol ne concerne que les usages internes de Microsoft et ne modifie pas les options de modèles disponibles pour les clients de GitHub Copilot. Chaque division de Microsoft a désormais des objectifs de consommation de tokens IA, surveillés par un tableau de bord interne. Les coûts associés à ces tokens varient considérablement selon les équipes, allant de quelques centaines à plusieurs milliers de dollars par mois, mais restent non spécifiés officiellement par l’entreprise.
L’optimisation des coûts est un enjeu crucial alors que l’utilisation des IA s’étend. Les coûts liés à l’inférence et à la consommation de tokens deviennent prépondérants. Selon Jay Parikh, cette initiative n’indique pas un recul de la stratégie « AI-first » de Microsoft. Au contraire, elle vise à traiter les tokens comme toute autre ressource informatique en considérant leur coût et en cherchant à en maximiser le rendement.
Les changements organisationnels au sein de Microsoft s’expliquent aussi par le regroupement de GitHub Copilot sous le groupe d’ingénierie CoreAI, dirigé par Jay Parikh. Cette restructuration a entraîné l’application prioritaire des nouvelles directives concernant l’utilisation des tokens dans cet environnement de développement. Les entreprises intégrant de plus en plus d’assistants de développement et d’agents IA sont confrontées à la nécessité de mieux gérer leurs ressources pour maîtriser les coûts associés à l’IA.
Gardez un coup d'avance en IA et tech.
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Zéro spam.
+11 000 fondateurs
On utilise des cookies de mesure d'audience (Google Analytics, Meta, PostHog) pour comprendre ce qui t'intéresse et améliorer le site. Tu décides. En savoir plus