Nvidia dépasse le meilleur humain et décroche l’or avec Nemotron

Nvidia a spécialisé Nemotron 3 pour obtenir deux résultats de niveau médaille d’or aux olympiades internationales de 2026. Le système dédié à l’IOI a marqué 535,4 points sur 600, dépassant le seuil or de 361,12 et le meilleur score humain de 498,27. Le système consacré à l’IMO a obtenu 30 points sur 42, au-dessus du seuil officiel de 29 points. Ces performances reposent sur un modèle de base Nemotron 3, un entraînement supervisé, un apprentissage par renforcement et une inférence avec retours successifs. Nvidia présente cette combinaison comme une méthode de spécialisation réutilisable pour des tâches exigeantes. Les deux compétitions évaluent toutefois des compétences distinctes, entre programmation sous contraintes et preuves mathématiques rédigées en langage naturel.

L’IOI a imposé des contraintes réelles aux participants humains, notamment sur le temps, l’accès à Internet et les soumissions. Le résultat de Nemotron a été obtenu lors d’une exécution prospective, non supervisée et non officielle. Il n’a donc pas été intégré au classement officiel de l’IOI 2026. Pour l’IMO, les preuves soumises ont été corrigées par les évaluateurs officiels de la compétition. Nvidia a commencé par rassembler des problèmes propres à chaque domaine et des traces de raisonnement de qualité. L’approche ne crée pas un nouveau modèle de base pour chaque défi. Elle adapte plutôt une famille existante avec des données ciblées, des méthodes d’entraînement connues et une boucle d’inférence capable de produire, évaluer et améliorer des réponses.

Nemotron dépasse les seuils olympiques

L’équipe a préparé 22 000 problèmes de programmation compétitive pour entraîner deux spécialistes IOI. Nemotron-3-Nano-CC compte 30 milliards de paramètres au total, dont 3 milliards actifs, tandis que Nemotron-3-Ultra-CC compte 550 milliards de paramètres, dont 55 milliards actifs. Sur l’IOI 2025, Nano est passé de 130 points avant post-entraînement à 280 après SFT, puis 291 après apprentissage par renforcement. La méthode GenCorrect, fondée sur la génération, l’évaluation et l’amélioration itératives, l’a porté à 468 points, au-dessus du seuil or de 438,3. Ultra-CC a atteint 502 points avec cette stratégie d’inférence. Nvidia indique aussi qu’une seule époque de SFT sur Ultra a dépassé Nano post-entraîné sur IOI, ICPC et LiveCodeBench Pro.

Les mathématiques ont utilisé 414 890 exemples filtrés pour leur qualité, couvrant 15 818 problèmes de preuve uniques. Ces données entraînaient la génération, la révision, la vérification et la méta-vérification des démonstrations. Un autre modèle a reçu un apprentissage par renforcement sur 9 597 problèmes situés près de la limite de capacité du modèle. Le système final réunissait le modèle général et les deux spécialistes, car leurs performances étaient complémentaires. Pour chaque problème, ils généraient des preuves candidates, attribuaient des scores, formulaient des critiques et révisaient les tentatives prometteuses. Une étape finale, dotée de moyens de calcul élevés, sélectionnait la réponse. Le système n’utilisait ni prouveur formel, ni outil externe, ni accès Internet.

Nvidia publie modèles et recettes

Nvidia relie spécialisation et calcul d’inférence dans ses deux systèmes. À l’IOI, GenCorrect a amplifié les gains de l’entraînement grâce à plusieurs cycles de retours. À l’IMO, l’association de points de contrôle SFT et RL a apporté davantage qu’un simple échantillonnage répété depuis un seul point de contrôle. Les résultats attribuent donc la performance à la conception conjointe du modèle, des données et de la boucle d’inférence. La collection Nemotron Labs IMO 2026 regroupe les points de contrôle SFT et RL, les deux jeux de données et Nemotron-IMO-Bench. Ce nouveau banc d’essai contient 200 problèmes de niveau olympique.

Les ressources sont accessibles sur Hugging Face pour l’IMO, tandis que le modèle Nemotron-3-Ultra-CC est disponible pour la programmation compétitive. L’article IMO sur arXiv décrit l’entraînement et le système de génération, vérification et amélioration. L’article IOI sur arXiv présente la recette d’entraînement et la méthode GenCorrect. Le dépôt NeMo-Skills fournit aussi des éléments d’inférence et un démarrage reproductible pour l’IMO. Pour l’IOI, l’évaluation et le pipeline d’inférence sont également disponibles dans ce dépôt. Ces publications donnent aux équipes des modèles, des données, des méthodes et des procédures d’évaluation associés aux deux compétitions.