OpenAI revient aux modèles à poids ouverts avec gpt-oss

Le 9 août 2025, OpenAI a publié gpt-oss-120b et gpt-oss-20b, deux grands modèles de langage à poids ouverts. Cette publication constitue la première mise à disposition par OpenAI d’un grand modèle entièrement ouvert depuis GPT-2. Les deux références marquent donc le retour de l’entreprise sur ce format de diffusion. Le modèle gpt-oss-20b peut fonctionner sur un GPU grand public doté de 16 Go de mémoire vive au maximum. Le gpt-oss-120b demande un seul GPU H100 équipé de 80 Go de mémoire vive, ou un matériel plus récent. Lire l’analyse de Sebastian Raschka.

Une optimisation matérielle, les modèles gpt-oss utilisent MXFP4 pour tenir sur des GPU uniques. Cette contrainte distingue les deux configurations par leurs besoins matériels. gpt-oss-20b vise une exécution possible sur une carte grand public disposant de 16 Go de mémoire vive. gpt-oss-120b nécessite, lui, un H100 avec 80 Go de mémoire vive ou un équipement plus récent. Ces exigences donnent un repère concret pour évaluer l’accès aux modèles. Elles ne décrivent toutefois pas leurs performances sur les tâches d’écriture ou de programmation en plusieurs échanges. La publication présente ainsi deux tailles associées à deux niveaux de matériel distincts.

OpenAI dimensionne deux modèles

Selon Sebastian Raschka, la plupart des gains proviennent probablement des données et des ajustements algorithmiques, plutôt que de changements architecturaux majeurs. Cette formulation attribue l’analyse à l’auteur de l’article, sans présenter cette interprétation comme un résultat établi par OpenAI. Raschka examine ainsi l’évolution allant de GPT-2 aux modèles gpt-oss. Le point central porte sur la contribution respective des données, des algorithmes et de l’architecture. La publication indique la date de sortie, le retour des grands modèles à poids ouverts et les exigences matérielles. Elle associe aussi MXFP4 à la capacité de faire tenir les modèles sur un seul GPU.

L’entraînement avec dropout, selon Sebastian Raschka, produit de moins bonnes performances en aval dans les régimes d’entraînement sur une seule époque. Cette affirmation concerne un choix de méthode d’entraînement et ses résultats rapportés. Elle complète son analyse des ajustements algorithmiques associés à l’évolution des modèles. L’article relie également cette discussion aux architectures employées par les modèles de langage. Pour l’instant, cette synthèse reste centrée sur gpt-oss-20b et gpt-oss-120b, leurs capacités matérielles et leur statut de modèles à poids ouverts. Profil de Sebastian Raschka.

Les besoins GPU structurent l’accès

Les architectures non transformeurs, toujours selon Sebastian Raschka, n’ont pas encore été montrées aussi performantes que les transformeurs à cette échelle. Cette observation situe le débat architectural sans établir une supériorité générale pour tous les usages. Elle intervient dans une analyse qui compare l’évolution depuis GPT-2 jusqu’à gpt-oss. En parallèle, OpenAI a diffusé les deux modèles le 9 août 2025. gpt-oss-20b peut fonctionner avec 16 Go de mémoire vive sur un GPU grand public. gpt-oss-120b exige 80 Go sur un H100 ou du matériel plus récent. MXFP4 sert aux deux modèles pour tenir sur un GPU unique.