Google présente Retrieve-for-Train pour alléger la recherche IA

Google Research a publié le 15 septembre 2026 un article consacré à Retrieve-for-Train. Pengcheng Jiang et Judith Yue Li, affiliés à Google Research, ont présenté leurs travaux à l’occasion d’ICML 2026. L’article s’intitule « Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion ». Le cadre utilise l’apprentissage par renforcement hors ligne pour entraîner un modèle de diffusion léger. Son objectif technique consiste à produire des résultats de recherche IA cohérents sans recourir à un raisonnement autorégressif lourd. La publication est disponible sur le blog de Google Research et dans l’article associé sur arXiv.

La recherche complexe repose ici sur une technique appelée query fan-out. Cette approche décompose une demande large en plusieurs sous-requêtes liées. Chaque sous-requête vise une partie des intérêts exprimés par l’utilisateur. Le dispositif cherche ainsi à former un ensemble de résultats cohérent autour de la demande initiale. Le papier décrit toutefois un problème nommé « paraphrastic collapse ». Avec des modèles de langage utilisés sans exemple, les requêtes générées peuvent devenir redondantes au lieu de proposer des options diversifiées. Retrieve-for-Train s’attaque à cette contrainte en déplaçant la génération des résultats vers un modèle de diffusion entraîné hors ligne, plutôt que vers un raisonnement autorégressif exécuté à chaque demande.

Retrieve-for-Train réduit le raisonnement

Le modèle de diffusion contient 53,9 millions de paramètres. Il transforme une représentation vectorielle de la requête en un ensemble complet de représentations vectorielles cibles. Cette génération intervient en un seul passage non autorégressif. Le modèle ne produit donc pas les éléments successivement selon le mécanisme décrit pour les grands modèles autorégressifs. Le cadre vise ainsi à éviter les goulets d’étranglement associés au traitement de requêtes complexes. Ces modèles de langage exigent une quantité importante de traitement pour gérer ces demandes, ce qui peut ralentir les réponses. Retrieve-for-Train utilise une diffusion légère pour générer des résultats cohésifs sans ce raisonnement autorégressif lourd.

L’entraînement du système suit trois étapes annoncées par les chercheurs. La première entraîne un modèle de langage consacré au fan-out. La deuxième produit une supervision synthétique. La troisième entraîne le récupérateur de diffusion. Cette séquence relie donc la décomposition des requêtes, la création des signaux d’apprentissage et la génération des représentations cibles. L’apprentissage par renforcement hors ligne intervient dans la formation du modèle de diffusion. Le modèle final reçoit une représentation de requête et renvoie un ensemble complet de représentations cibles. Cette conception constitue le mécanisme présenté pour traiter le paraphrastic collapse et les délais associés au raisonnement autorégressif dans la recherche IA.

ICML 2026 accueille la publication

La publication scientifique a été annoncée le 15 septembre 2026 sous le titre « Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion ». Pengcheng Jiang et Judith Yue Li sont les auteurs cités. Leur affiliation est Google Research. Le texte relie le framework Retrieve-for-Train à une stratégie de récupération par fan-out. Le modèle de diffusion de 53,9 millions de paramètres constitue l’élément central de cette stratégie. Il mappe un encodage de requête vers un ensemble d’encodages cibles en un seul passage. Les prochaines étapes explicitement décrites sont les trois phases d’entraînement du système, depuis le modèle de fan-out jusqu’au récupérateur de diffusion.

Le résultat présenté est une architecture qui remplace une génération autorégressive lourde par une génération de diffusion non autorégressive. Cette distinction porte sur le traitement des requêtes complexes et sur la production d’options liées. Le fan-out conserve la décomposition d’une demande large en sous-requêtes. Le récupérateur de diffusion produit ensuite l’ensemble d’encodages cibles. Le cadre est présenté dans une publication d’ICML 2026, avec un article accessible sur arXiv. Google décrit également les évolutions de la recherche avec IA dans son article sur le mode IA de Search.