Replicate réduit les appels de FLUX.1 Kontext à 10-15

Replicate optimise FLUX.1 Kontext [dev] avec TaylorSeer, une méthode destinée à accélérer la génération d’images. L’entreprise a détaillé cette implémentation dans un article publié le 15 juillet 2025. Le procédé réduit le nombre d’appels complets au modèle, qui passe d’environ 30 étapes à 10 ou 15 selon le réglage choisi. TaylorSeer estime certaines sorties intermédiaires au lieu de recalculer le modèle à chaque pas. Replicate a également rendu son implémentation de FLUX.1 Kontext [dev] disponible en code ouvert. L’article présente le fonctionnement de la méthode et renvoie au dépôt GitHub pour examiner le code d’exécution.

La diffusion progresse par une transformation appliquée sur plusieurs pas successifs. À chaque étape, une pile de couches de transformateur prédit une modification de l’image en cours de débruitage. Les sorties d’un pas présentent toutefois des redondances avec celles des pas précédents. Replicate exploite cette continuité en conservant des prédictions et des dérivées finies. Une réutilisation directe de la dernière valeur peut provoquer du flou, une perte de détails ou une distorsion. Une approximation linéaire améliore ce résultat, mais elle ne représente pas les courbes, les accélérations et les changements non linéaires fréquents dans les modèles de diffusion. TaylorSeer ajoute ces informations dans l’estimation.

Replicate alterne calcul et approximation

TaylorSeer conserve plusieurs niveaux de dérivées pour prévoir une sortie à un pas ultérieur. Avec deux dérivées, le cache contient la caractéristique courante, sa dérivée première et sa dérivée seconde. Les premières étapes du débruitage calculent toujours les prédictions complètes. Elles servent à initialiser les différences finies utilisées ensuite. Lorsqu’un calcul complet intervient, le système met à jour ces différences de manière récursive. Lorsqu’un pas est ignoré, il combine les valeurs conservées avec une série de Taylor tronquée. Replicate décrit les détails mathématiques dans l’article original, auquel son implémentation renvoie pour les équations complètes.

Les réglages distinguent trois stratégies dans la fonction generate_compute_step_map(). Le niveau « none » calcule tous les pas. Le niveau « go fast » calcule les quatre premiers et les quatre derniers pas, puis alterne calcul complet et approximation au milieu. Le niveau « go really fast » conserve trois pas complets au début et à la fin, puis calcule un pas sur trois dans la partie centrale. Cette règle privilégie les extrémités, car le modèle y effectue ses changements les plus importants. Le code prévoit aussi une approximation adaptative, mais Replicate utilise ici une stratégie codée en dur jugée efficace.

TaylorSeer réduit les appels modèle

Chaque étape applique ensuite le delta prédit au latent de l’image. Cette mise à jour intervient après un calcul complet comme après une approximation. Le coût de l’approximation est présenté comme presque instantané par rapport à l’exécution du modèle pour un seul pas de débruitage. Replicate indique que la méthode réduit les appels du modèle d’environ 30 à 10-15, selon le réglage de vitesse. L’article affirme aussi que la qualité est maintenue, notamment au début et à la fin de la génération. Les fonctions denoise() et taylor_utils.py concentrent cette logique dans le dépôt FLUX.1 Kontext.