Qwen 3.8 27B interprète et modifie les poids d’un modèle

Qwen 3.8 27B interprète et modifie les poids bruts d’un modèle d’apprentissage automatique. Le résultat figure dans un billet publié le 3 novembre 2026 par Rikiya Takehi, Jayden Teoh, Alex Zhang et Omar Khattab. Le modèle identifie aussi la fonction d’un réseau à partir de ses poids. Il applique ensuite une modification ciblée sur ces valeurs. Cette capacité rapproche l’analyse des modèles de leur structure interne. Simon Willison résume le résultat ainsi : Qwen 3.8 27B peut interpréter les poids d’un modèle. Le billet présente donc une expérience sur des paramètres numériques, plutôt qu’une simple utilisation classique d’un modèle entraîné. Lire l’analyse de Simon Willison.

Le papier étudie deux capacités distinctes. La première porte sur ce que les modèles peuvent accomplir avec des poids bruts. La seconde examine la manière dont des modèles peuvent améliorer d’autres modèles avec du code. Quatre réseaux neuronaux ont été entraînés sur des versions simplifiées, en grille 10×10, de Breakout, Pong, Pac-Man et Freeway. Ces réseaux fournissent des objets d’analyse contrôlés. Qwen 3.8 27B reçoit ensuite les poids correspondant à ces environnements. Il identifie une grille inspirée de Pac-Man avec une confiance de 72 %. Cette reconnaissance relie les paramètres numériques à une fonction de jeu précise. Voir le billet original.

Qwen identifie une grille Pac-Man

GPT-6 Astra apporte un autre résultat décrit dans le papier. Le modèle peut identifier ce qu’un réseau a été entraîné à faire en examinant ses poids bruts. Cette identification fonctionne sans retour provenant de l’environnement. Le cas de Pac-Man simplifié fournit un repère chiffré avec 72 % de confiance. Les quatre environnements utilisés sont Breakout, Pong, Pac-Man et Freeway. Ils reposent tous sur des grilles simplifiées de 10×10. Le dispositif compare donc plusieurs tâches de jeu au même format général. Il permet d’observer si les modèles relient des paramètres internes à une tâche apprise. Le papier traite également l’amélioration d’autres modèles avec du code.

La correction cible 0,016 % des poids de Qwen 3.8 27B. Après cette intervention, son score MATH-500 passe de 7,9 % à 48,1 %. L’écart mesure une progression de 40,2 points de pourcentage sur cette évaluation. Le résultat porte sur une modification très limitée du modèle. Il ne décrit pas une réécriture complète de ses paramètres. Le même travail met ainsi en regard l’interprétation des poids et leur modification. La correction concerne directement les poids bruts du modèle. Elle associe une quantité modifiée précise à un score d’évaluation précis. Ces deux chiffres constituent le principal résultat expérimental rapporté pour Qwen 3.8 27B.

Qwen améliore un score mathématique

Le débat porte sur l’interprétation de ces expériences. Matthew Honnibal estime que le papier mélange deux sujets : les capacités exercées sur des poids bruts et les opérations réalisées avec du code. Cette distinction concerne directement les deux thèmes annoncés par les auteurs. D’un côté, Qwen 3.8 27B et GPT-6 Astra analysent des paramètres de réseaux. De l’autre, le papier décrit des modèles capables d’améliorer d’autres modèles avec du code. Les résultats publiés incluent l’identification de Pac-Man à 72 % et l’augmentation de MATH-500 de 7,9 % à 48,1 %. Le billet de Simon Willison rapporte ces éléments dans son analyse du 3 novembre 2026.