# Replicate fait démarrer FLUX jusqu’à trois fois plus vite

> Replicate met en cache les artefacts torch.compile et réduit de 50 à 62 % les démarrages à froid de trois modèles FLUX.

Type : Actualité IA · Catégorie : Outils · Publié le 2026-10-08 · Signal IA - Order & Chaos
Source : https://www.orderchaos.eu/signal-ia/actu/replicate-reduit-jusqua-62-pourcent-les-demarrages-de-flux
Tags : replicate, pytorch, inférence, gpu, fl​​ux, ia-image, inference

---

## En résumé

- Replicate met en cache les artefacts compilés par torch.compile.
- Trois modèles FLUX démarrent deux à trois fois plus vite.
- Le cache conserve ses fichiers selon la version du modèle.

**Le signal :** Replicate réduit jusqu’à 62 % le démarrage à froid de prunaai/flux.1-dev-lora grâce au cache torch.compile.

**Replicate accélère** les démarrages de modèles [PyTorch](/signal-ia/actu/replicate-reduit-jusqua-62-pourcent-les-demarrages-pytorch) avec un cache dédié aux artefacts `torch.compile`. L’entreprise a annoncé cette évolution le 8 septembre 2025. Trois modèles de la famille FLUX démarrent désormais deux à trois fois plus vite. Les modèles concernés sont `black-forest-labs/flux-kontext-dev`, `prunaai/flux-schnell` et `prunaai/flux.1-dev-lora`. Replicate explique que ce cache réduit le temps nécessaire avant la première prédiction réussie. Cette amélioration cible donc directement le démarrage des conteneurs de modèles. La méthode concerne les modèles qui utilisent PyTorch et `torch.compile`. [Lire l’annonce de Replicate](https://replicate.com/blog/torch-compile-caching) pour consulter les mesures publiées et le fonctionnement décrit.

**La compilation coûte** du temps lors du premier appel d’une fonction compilée. `torch.compile` trace alors le code et produit une version optimisée. Les appels suivants exécutent cette version optimisée et sont nettement plus rapides. Replicate indique que les modèles de la famille FLUX utilisent différentes techniques liées à `torch.compile` pour accélérer l’[inférence](/signal-ia/actu/replicate-reduit-jusqua-62-pourcent-les-demarrages-a-froid). Dans ses tests sur `black-forest-labs/flux-kontext-dev`, la version compilée s’exécute plus de 30 % plus vite que la version non compilée. Le cache intervient avant ces appels répétés. Il évite de reconstruire les artefacts compilés lorsque le conteneur redémarre. [Le tutoriel officiel PyTorch](https://docs.pytorch.org/tutorials/intermediate/torch_compile_tutorial.html) détaille le mécanisme de compilation.

## Replicate réduit trois démarrages

**Les mesures publiées** montrent des écarts précis entre les démarrages sans cache et avec cache. `black-forest-labs/[flux-kontext-dev](/signal-ia/actu/torchcompile-bouscule-la-vitesse-avec-62pourcent-de-gain)` passe d’environ 120 secondes à 60 secondes. Replicate évalue cette baisse à 50 %. `prunaai/flux-schnell` passe d’environ 150 secondes à 70 secondes. La réduction atteint 53 % pour ce modèle. `prunaai/flux.1-dev-lora` passe d’environ 400 secondes à 150 secondes. Replicate évalue alors la baisse à 62 %. Ces durées concernent les démarrages à froid après mise en cache des artefacts compilés. Le cache améliore aussi le délai entre le lancement du conteneur et la première prédiction réussie.

**Le système de cache** reprend un fonctionnement comparable à celui de nombreux caches d’intégration et de déploiement continus. Au démarrage d’un conteneur, le modèle recherche d’abord des artefacts compilés déjà enregistrés. S’ils existent, Torch les réutilise sans relancer la compilation depuis zéro. Lorsqu’un conteneur s’arrête correctement, il met à jour le cache si nécessaire. Les fichiers sont indexés par version du modèle. Ils sont stockés à proximité des nœuds équipés de processeurs graphiques. Cette organisation relie donc chaque artefact à une version précise. Elle place aussi les fichiers près des ressources GPU utilisées par l’inférence. Replicate décrit cette logique dans son [guide consacré à torch.compile](https://replicate.com/blog/torch-compile-caching).

## Le cache suit chaque version

**Les prochaines étapes** passent par la documentation consacrée à l’utilisation de `torch.compile`. Replicate a publié un guide qui couvre davantage de détails sur l’amélioration des performances des modèles. La documentation PyTorch propose également un tutoriel officiel sur `torch.compile`. Les résultats publiés concernent déjà trois modèles nommés et leurs temps de démarrage respectifs. Replicate indique aussi que le cache améliore le délai jusqu’à la première prédiction réussie pour tous les modèles utilisant `torch.compile`. L’entreprise présente enfin cette annonce avant une communication consacrée à son serveur MCP distant. Les chiffres disponibles portent sur les démarrages et l’exécution compilée mesurée.
