Dépenses IA : 25% gaspillés sans gouvernance dédiée

Un quart des dépenses en intelligence artificielle des entreprises est gaspillé, selon une étude récente de Harness. La société a interrogé 700 leaders FinOps et d’ingénierie, révélant que plus de la moitié des entreprises n’ont pas de propriétaire dédié pour la gestion des coûts d’IA. En conséquence, les dépenses s’envolent tandis que la structure de gouvernance nécessaire tarde à être mise en place, limitant la capacité à identifier rapidement les pics de coûts inattendus.

La dispersion des responsabilités, entre les équipes d’ingénierie, de plateforme et de FinOps, rend la gestion des budgets extrêmement complexe. En l’absence de structures adéquates, les entreprises ont du mal à maîtriser l’augmentation rapide des dépenses. Le rapport souligne aussi que, contrairement aux dépenses IT traditionnelles, les coûts de l’IA englobent de multiples catégories, incluant l’infrastructure, les modèles de fondation, les abonnements SaaS et les services gérés.

Les géants du cloud comme Oracle et AWS ont commencé à proposer des fonctionnalités améliorées pour assurer une meilleure visibilité sur les coûts liés à l’IA. Cependant, le manque de visibilité reste un obstacle majeur. Harish Doddala de Harness indique que ce problème persiste quel que soit le montant dépensé, illustrant la nécessité de solutions centralisées. Cette constatation universelle met en lumière la nécessité d’approches stratégiques pour le contrôle des budgets IA.

Pour les entreprises françaises, en particulier celles de taille moyenne, les implications sont substantielles. La pression pour optimiser les dépenses tout en continuant à innover est élevée. Sans gestion efficace, le risque d’impacts négatifs sur les finances augmente. Des pratiques telles que l’affectation précoce des responsabilités, la centralisation de la visibilité des coûts, et l’intégration des données de dépenses dans les workflows d’ingénierie peuvent offrir des solutions.

OpenAI recommande aussi d’améliorer la visibilité de l’utilisation et des dépenses IA, de suivre les résultats des modèles, et d’intégrer les gouvernances dans les opérations quotidiennes. Tandis que la Linux Foundation et d’autres groupes initient des efforts pour gérer les coûts AI, il est crucial pour les entreprises d’adopter ces solutions pour éviter les inefficacités futures. Ces démarches pourraient non seulement transformer leur manière de gérer les dépenses, mais aussi encourager une innovation continue sans compromettre les ressources. Pour aller plus loin, consultez notre guide sur la formation IA et les obligations de l’AI Act.