HardFlow du MIT sécurise l’IA générative au déploiement

Le MIT a développé HardFlow, un algorithme destiné aux modèles d’IA générative utilisés dans des situations exigeantes. La méthode vise les problèmes où une réponse presque correcte ne suffit pas. Elle impose des contraintes de sécurité, de physique ou de tâche au résultat final. Les chercheurs ont présenté leurs travaux dans la revue IEEE Transactions on Pattern Analysis and Machine Intelligence. Navid Azizan est l’auteur principal senior de l’étude. Zeyang Li en est le premier auteur. Kaveh Alim figure également parmi les auteurs. HardFlow fonctionne au moment du déploiement. Il peut donc s’appliquer à des modèles préentraînés sans réentraîner ces modèles. Lire l’article du MIT.

Des contraintes imposées à la sortie finale

Les contraintes arrivent en sortie, plutôt qu’à chaque étape intermédiaire de génération. Les modèles génératifs produisent leurs résultats en transformant du bruit aléatoire. Cette approche concerne notamment les modèles de diffusion comme Stable Diffusion et les modèles d’appariement de flux comme FLUX. Les méthodes habituelles peuvent forcer chaque échantillon intermédiaire à respecter les règles. Cette restriction peut empêcher le modèle d’explorer de meilleures solutions finales. HardFlow laisse donc davantage de liberté pendant la génération, puis impose le respect des contraintes sur la sortie finale. Les chercheurs ont testé cette méthode en manipulation robotique, en navigation dans des labyrinthes et en édition d’images guidée par du texte. Les résultats ont satisfait les contraintes dans ces expériences selon le MIT. Voir la publication IEEE.

Une optimisation adaptée aux trajectoires générées

L’optimisation guide HardFlow, qui reformule l’échantillonnage sous contraintes comme un problème d’optimisation de trajectoire. Les chercheurs utilisent pour cela des outils issus du contrôle optimal. Le cadre obtenu guide progressivement la trajectoire d’échantillonnage vers un objectif. Il applique des corrections mesurées tout en réservant l’imposition stricte des contraintes à la sortie. Cette formulation permet aussi d’ajouter des objectifs de qualité. Dans un exemple, HardFlow peut chercher une trajectoire robotique sans collision et plus courte jusqu’à sa cible. Les chercheurs ont décomposé le problème en une série de sous-problèmes à une étape. Cette décomposition exploite la structure des modèles d’appariement de flux et rend le calcul plus efficace au déploiement.

Les résultats montrent un compromis favorable, selon les expériences décrites par les chercheurs. En manipulation robotique, HardFlow a permis d’éviter des obstacles tout en recherchant le chemin le plus rapide vers un objet. Les méthodes comparées ont parfois produit des collisions ou des trajectoires nettement plus longues. Dans la navigation de labyrinthes et l’édition d’images guidée par du texte, HardFlow a également satisfait les contraintes évaluées. La méthode a systématiquement dépassé les approches de référence sur les mesures de qualité des solutions. Son temps de calcul était comparable ou inférieur à celui de la plupart des méthodes concurrentes. Ces résultats couvrent trois familles d’expériences distinctes.

Un fonctionnement sans réentraînement

Le déploiement reste central, car HardFlow ne demande pas de modifier ni de réentraîner le modèle préentraîné. Cette propriété vise des applications où les règles de sécurité, les lois physiques ou les exigences de tâche sont impératives. Le cas cité par les chercheurs concerne la planification d’un trajet robotique dans une usine fréquentée. Une trajectoire presque correcte pourrait encore conduire à une collision avec un collègue humain. Navid Azizan explique que la méthode conserve la capacité d’exploration des modèles génératifs. Zeyang Li souligne que seule la sortie finale doit respecter les contraintes. Les auteurs envisagent ensuite d’étendre le cadre aux situations où le modèle lui-même peut être mis à jour, afin d’adapter simultanément contraintes et qualité des échantillons.