Berkeley repense le raisonnement parallèle des IA

Berkeley analyse le raisonnement parallèle adaptatif dans un article publié le 8 mai 2026. Cette approche, appelée Adaptive Parallel Reasoning ou APR, permettrait à un modèle de décider quand décomposer une tâche. Il pourrait aussi choisir combien de fils exécuter et comment les coordonner. L’article présente une analyse des progrès récents dans le raisonnement parallèle. Il combine une revue du paysage et une prise de position sur l’APR. Tony Lian, coauteur, a codirigé ThreadWeaver en 2025. Les auteurs décrivent l’APR comme un paradigme, et non comme une méthode unique. La méthode APR désigne plus précisément l’instanciation proposée par Pan et ses coauteurs en 2025. (Lire l’analyse de Berkeley)

Le raisonnement séquentiel augmente les coûts quand le modèle explore de nombreuses pistes. Les jetons de raisonnement peuvent dépasser les limites effectives du contexte. L’accumulation de chemins intermédiaires peut aussi provoquer une dégradation appelée context-rot. La latence augmente avec la longueur du raisonnement. Pour des tâches complexes nécessitant des millions de jetons, certains utilisateurs attendent des dizaines de minutes ou plusieurs heures. Le raisonnement parallèle propose une autre organisation. Le modèle explore plusieurs fils indépendants et exécutés simultanément. Chaque fil conserve son propre contexte. Cette organisation évite d’accumuler chaque chemin dans une seule séquence. Elle vise ainsi à limiter certains coûts liés à l’exploration séquentielle.

L’APR contrôle les branches

Les méthodes existantes imposent souvent la structure parallèle en dehors du modèle. Self-consistency échantillonne plusieurs raisonnements complets, puis choisit la réponse majoritaire. Best-of-N utilise un vérificateur entraîné pour sélectionner une solution. Tree of Thoughts, Graph of Thoughts et Skeleton of Thoughts décomposent les tâches selon des stratégies connues. Monte-Carlo Tree Search évalue des nœuds avec des simulations et une exploration de type Upper Confidence Bound. ParaThinker utilise deux étapes fixes, avec plusieurs fils puis une synthèse. GroupThink rend les fils visibles entre eux pendant la génération. Hogwild! Inference partage un cache KV entre plusieurs fils concurrents.

L’adaptation change la décision de paralléliser, le niveau de parallélisme et la stratégie de recherche. L’APR intègre ces choix au flux de contrôle généré par le modèle. Pendant l’apprentissage par renforcement, le modèle peut apprendre des stratégies générales de décomposition par essais et erreurs. Des comportements émergents incluent l’exécution simultanée d’une étape et de sa vérification. Le modèle peut aussi associer une approche principale à une solution de secours. Contrairement à Best-of-N, l’APR peut préparer des sous-tâches distinctes avant de créer les fils. Contrairement aux méthodes fixes, elle peut choisir de ne pas paralléliser une tâche simple. ThreadWeaver illustre cette organisation avec des jetons spéciaux et une étape de synthèse.

Les caches KV compliquent la synthèse

L’exécution pratique suit généralement un modèle fork-join. Le système divise le problème en sous-tâches, les traite simultanément, puis rassemble les résultats. Le moteur préremplit chaque sous-tâche et envoie les requêtes indépendantes. Les fils décodent jusqu’à un jeton de fin ou une longueur maximale. Le système attend ensuite leur terminaison avant d’agréger les sorties. La synthèse pose toutefois un problème de cache KV. Les branches indépendantes commencent avec des identifiants de position identiques. Leur fusion peut donc produire un chevauchement d’encodage. La concaténation des caches crée aussi un schéma d’attention non causal, absent de l’entraînement initial du modèle.

Multiverse modifie le moteur d’inférence pour réutiliser le cache KV pendant la synthèse. SGLang RadixAttention peut déjà éviter le recalcul du préfixe partagé entre les fils. Multiverse, Parallel-R1 et NPR copient ensuite les caches produits par les branches. Ils modifient la table de pages pour relier des blocs mémoire non contigus dans une séquence unique. Cette méthode évite un second préremplissage et réutilise davantage le cache existant. Elle exige cependant une gestion mémoire non standard du moteur. Les requêtes de synthèse peuvent référencer des caches d’autres requêtes. Cette dépendance rend le système plus fragile et peut exposer les pointeurs à des évictions concurrentes. (Voir les travaux cités)