OpenAI teste Jalapeño, plus rapide et sobre que Nvidia

OpenAI présente Jalapeño comme sa première puce interne destinée à exécuter des modèles d’intelligence artificielle. L’entreprise l’a développée avec Broadcom, sans la destiner à la vente. Ses premiers tests internes la placent devant les solutions vedettes de Nvidia sur deux critères. La puce consomme 700 watts, contre 1 200 watts pour les systèmes Nvidia comparés. Elle répond jusqu’à 3,6 fois plus vite. Elle réalise aussi jusqu’à 1,9 fois plus de travail par watt. OpenAI attribue également sa conception à Astra, son prochain modèle, et à Codex. L’ensemble du processus, de la première conception à une version prête pour la fabrication, a duré neuf mois. (Lire les résultats)

La puce reste interne à OpenAI, qui explique en avoir un besoin important pour ses propres opérations. L’entreprise continue toutefois de s’appuyer sur Nvidia pour entraîner ses nouveaux modèles. Jalapeño vise donc l’exécution des modèles, et non leur entraînement. Cette distinction définit son premier usage opérationnel. OpenAI prépare déjà deux générations supplémentaires. Le calendrier annoncé prévoit une arrivée dans ses centres de données plus tard cette année. La production doit ensuite augmenter progressivement jusqu’en 2027. Les résultats publiés reposent sur des tests internes. Ils présentent donc une comparaison réalisée par OpenAI entre sa puce et des systèmes Nvidia de référence. (Voir l’annonce complète)

OpenAI prépare deux générations

Le calendrier s’étend jusqu’en 2027 avec deux nouvelles générations déjà en préparation. OpenAI cherche ainsi à inscrire Jalapeño dans une série de composants internes, plutôt que dans une annonce isolée. Les prochains jalons sont identifiés. La puce doit rejoindre les centres de données de l’entreprise avant la fin de l’année. La production doit ensuite monter en puissance pendant 2027. OpenAI ne prévoit pas de commercialiser Jalapeño auprès d’autres acteurs. Son usage annoncé reste concentré sur ses propres besoins d’exécution. L’entreprise conserve parallèlement Nvidia pour l’entraînement des modèles. Les tests actuels mesurent donc une partie précise de l’infrastructure, avec la vitesse et le travail par watt comme indicateurs principaux.

Les laboratoires conçoivent leurs composants pour adapter davantage leur infrastructure à leurs modèles. Google dispose déjà de processeurs TPU internes. Anthropic, Amazon et Microsoft prévoient également leurs propres conceptions. OpenAI relie Jalapeño à Astra et Codex, utilisés pendant les neuf mois de développement. Selon l’entreprise, cette méthode a contribué à accélérer le passage de la conception à une version prête pour la fabrication. Les performances annoncées pourraient fournir à OpenAI des jetons moins coûteux et plus rapides, si ces chiffres se maintiennent. Cette implication est rapportée comme une conséquence possible des résultats. Elle ne constitue pas encore un résultat établi au-delà des tests internes publiés.

Jalapeño rejoint la course au silicium

Les prochaines étapes sont déjà planifiées autour des centres de données et de la production. OpenAI doit d’abord intégrer Jalapeño dans ses propres installations plus tard cette année. La montée en production doit suivre jusqu’en 2027. Deux générations supplémentaires sont également annoncées. En parallèle, l’entreprise continuera d’utiliser Nvidia pour entraîner de nouveaux modèles. Cette séparation entre entraînement et exécution précise le rôle actuel de Jalapeño dans la stratégie matérielle d’OpenAI. La puce n’est pas présentée comme un produit commercial. Ses performances annoncées restent liées aux évaluations internes de l’entreprise. Le déploiement réel permettra ensuite d’observer son utilisation dans les centres de données concernés.