Google prédit les données tabulaires sans entraînement

Google présente TabFM le 30 juin 2026 comme un modèle fondation consacré aux données tabulaires. Il vise les tâches de classification et de régression en mode zero-shot. Le modèle doit produire des prédictions sur une nouvelle table en un seul passage. Cette approche évite, selon Google Research, l’entraînement manuel propre à chaque jeu de données. Elle vise aussi le réglage des hyperparamètres et l’ingénierie complexe des variables. TabFM est disponible dans les dépôts Hugging Face et GitHub. Google présente cette publication comme une extension de la logique zero-shot déjà appliquée avec TimesFM aux prévisions de séries temporelles.

Les tableaux restent centraux dans les infrastructures de données des entreprises et les applications prédictives. Google cite notamment la prévision du désabonnement client et la détection de fraude financière. Les méthodes supervisées comme AdaBoost, XGBoost et les forêts aléatoires dominent historiquement ces usages. Leur déploiement demande toutefois souvent une optimisation des hyperparamètres et une ingénierie des variables. TabFM reformule la prédiction tabulaire comme un problème d’apprentissage en contexte. Le modèle reçoit les exemples historiques et les lignes à prédire dans un même prompt. Il interprète alors les relations entre lignes et colonnes pendant l’inférence, sans modifier ses paramètres pour chaque nouvelle tâche.

TabFM combine trois mécanismes

L’architecture traite deux dimensions qui distinguent les tableaux du langage naturel. Un module d’attention alterne entre les colonnes et les lignes. Cette opération cherche à représenter les interactions entre variables et les dépendances entre exemples. TabFM compresse ensuite les informations contextualisées de chaque ligne dans un vecteur dense unique. Un Transformer dédié applique enfin l’apprentissage en contexte sur cette séquence de vecteurs compressés. Google indique que cette organisation réduit le coût de calcul par rapport à une attention appliquée à la grille brute. Le modèle combine ainsi des éléments d’architectures associées à TabPFN et TabICL, selon la description technique publiée par Google Research.

Les données d’entraînement constituent un autre élément central du dispositif. Google indique que TabFM a été entraîné entièrement sur des centaines de millions de jeux de données synthétiques. Ces tables sont générées dynamiquement avec des modèles causaux structurels et une grande variété de fonctions aléatoires. Google explique que les tables industrielles ouvertes sont rares, notamment parce qu’elles peuvent contenir des schémas propriétaires ou des informations sensibles. Les données synthétiques permettent donc de produire des volumes importants pour le pré-entraînement. Selon Google, cette génération cherche à reproduire des distributions et des relations complexes présentes dans des tableaux réels non vus par le modèle.

TabArena mesure les performances

Le benchmark couvre 51 jeux de données dans TabArena, dont 38 tâches de classification et 13 tâches de régression. Les ensembles évalués contiennent entre 700 et 150 000 observations. La configuration TabFM produit ses prédictions sans réglage ni validation croisée, en un seul passage. Google évalue aussi TabFM-Ensemble, une variante utilisant des variables croisées et des variables issues d’une décomposition en valeurs singulières. Cette version calcule les poids optimaux d’un ensemble de 32 modèles avec un solveur des moindres carrés non négatifs. Pour la classification, elle ajoute un calibrage de Platt. Google affirme que TabFM dépasse régulièrement des algorithmes supervisés fortement réglés, tandis que les résultats détaillés sont disponibles sur GitHub.

BigQuery doit intégrer TabFM dans les prochaines semaines, selon Google Research. Les utilisateurs pourront alors effectuer des tâches de classification et de régression avec la commande SQL AI.PREDICT. Google présente cette intégration comme accessible sans expertise particulière en apprentissage automatique. Le modèle est également accessible dès maintenant via Hugging Face et GitHub. Les auteurs indiquent que TabFM capture les interactions complexes grâce à son attention hybride et à son entraînement synthétique. Le billet attribue le projet à Weihao Kong, Abhimanyu Das et plusieurs collaborateurs de Google Research. Il ne fournit toutefois pas, dans le texte source, de calendrier plus précis pour la disponibilité de la fonction BigQuery.