AMD propulse l'inférence IA avec Taalas

AMD a récemment procédé à l’acquisition de Taalas, une start-up basé à Toronto, dans le but de consolider sa position dans le domaine de l’inférence IA. Fondée en 2023, Taalas est reconnue pour ses composants en silicium spécialisés, destinés à améliorer les performances et l’efficacité énergétique des opérations d’inférence. Cette acquisition n’est pas encore finalisée et devra passer par diverses autorisations réglementaires usuelles. L’intégration de Taalas dans la feuille de route d’AMD vise à diversifier les solutions proposées pour répondre aux besoins spécifiques des modèles IA stabilisés, réduisant potentiellement les coûts et consommations énergétiques des systèmes existants.

Les composants développés par Taalas permettent de surmonter les goulets d’étranglement souvent rencontrés dans les architectures généralistes. En intégrant certaines parties du modèle directement dans le silicium, ces composants sont optimisés pour des charges de travail particulières, bien qu’ils nécessitent des ajustements si le modèle évolue. AMD envisage d’incorporer ces technologies pour compléter ses offres comme les GPU Instinct et EPYC, contribuant à sa plateforme IA full stack. À travers cette opération, AMD espère proposer des solutions spécialisées plus rapides et moins coûteuses que les GPU généralistes dans des contextes opérationnels prévisibles.

Pour AMD, l’un des principaux défis

Pour AMD, l’un des principaux défis sera d’harmoniser la technologie de Taalas avec son offre logicielle et matérielle existante. L’intégration réussie de Taalas avec les solutions Instinct d’AMD et le logiciel ROCm est fondamentale pour garantir que ces nouvelles acquisitions apportent une réelle valeur ajoutée sans se limiter à des applications isolées. Les composants spécialisés de Taalas peuvent offrir des performances excellentes pour des applications précises, mais leur utilité est conditionnée par la stabilité des architectures d’IA et leur compatibilité avec les outils actuels.

La concurrence avec Nvidia et d’autres acteurs pousse AMD à renforcer sa position dans l’inférence, un secteur en effervescence qui se détourne progressivement de l’entraînement des modèles pour se concentrer sur leur déploiement. Nvidia, par exemple, a élargi son empreinte dans ce domaine avec des solutions issues de la technologie de Groq, une autre start-up spécialisée dans l’inférence. Les grands cloud providers développent également leurs propres puces, ce qui met en relief l’importance stratégique pour AMD de maîtriser cette intégration technologique et de prouver la complémentarité de Taalas avec ses actuelles lignes de produits. Visitez le site de AMD pour plus de détails ou découvrez Taalas.