# Replicate réduit jusqu’à 62 % les démarrages à froid

> Replicate met en cache les artefacts de torch.compile et réduit de 50 à 62 % les démarrages à froid de trois modèles PyTorch.

Type : Actualité IA · Catégorie : Outils · Publié le 2026-10-25 · Signal IA - Order & Chaos
Source : https://www.orderchaos.eu/signal-ia/actu/replicate-accelere-jusqua-62-pourcent-les-demarrages-a-froid
Tags : ia générative, inférence, pytorch, performance, infrastructure, ia-image, inference

---

## En résumé

- Replicate met en cache les artefacts compilés de torch.compile entre les cycles de vie des conteneurs.
- Trois modèles démarrent deux à trois fois plus vite grâce à ce mécanisme de cache.
- La version compilée de black-forest-labs/flux-kontext-dev dépasse de 30 % la version non compilée.

**Le signal :** Replicate réduit jusqu’à 62 % le démarrage à froid de prunaai/flux.1-dev-lora grâce au cache de torch.compile.

**[Replicate](/signal-ia/actu/replicate-reduit-jusqua-62-pourcent-le-demarrage-des-modeles-pytorch) accélère** les démarrages de modèles PyTorch grâce à la mise en cache des artefacts produits par `torch.compile`. L’entreprise a annoncé cette évolution le 8 septembre 2025. Les modèles `black-forest-labs/flux-kontext-dev`, `prunaai/flux-schnell` et `prunaai/flux.1-dev-lora` démarrent désormais deux à trois fois plus vite, selon Replicate. Le mécanisme vise les temps de démarrage à froid des conteneurs de modèles. Il améliore également le délai entre le lancement d’un conteneur et la réussite de la première prédiction. Replicate a publié une [présentation détaillée](https://replicate.com/blog/torch-compile-caching) de cette méthode et de ses résultats mesurés.

**La compilation intervient** lors du premier appel à une fonction compilée. Cette étape trace et compile le code, ce qui ajoute un délai initial. Les appels suivants réutilisent le code optimisé et s’exécutent plus rapidement. Replicate indique que de nombreux modèles, notamment dans la famille FLUX, utilisent des techniques liées à `torch.compile` pour accélérer l’[inférence](/signal-ia/actu/replicate-reduit-jusqua-62-pourcent-les-demarrages-pytorch). Dans ses tests sur `black-forest-labs/flux-kontext-dev`, la version compilée s’exécute plus de 30 % plus vite que la version non compilée. La documentation officielle de [PyTorch](https://docs.pytorch.org/tutorials/intermediate/torch_compile_tutorial.html) décrit le fonctionnement de `torch.compile` et les étapes de compilation.

## Replicate réduit les démarrages à froid

**Les mesures varient** selon le modèle évalué. Pour `black-forest-labs/[flux-kontext-dev](/signal-ia/actu/torchcompile-bouscule-la-vitesse-avec-62pourcent-de-gain)`, le démarrage passe d’environ 120 secondes à environ 60 secondes, soit une réduction de 50 %. Pour `prunaai/flux-schnell`, il passe d’environ 150 secondes à environ 70 secondes, soit une réduction de 53 %. Pour `prunaai/flux.1-dev-lora`, il passe d’environ 400 secondes à environ 150 secondes, soit une réduction de 62 %. Ces résultats concernent les temps de démarrage à froid observés par Replicate. Le cache améliore aussi le délai mesuré entre le démarrage du conteneur et la première prédiction réussie sur les modèles utilisant `torch.compile`.

**Le cache fonctionne** selon une logique proche des caches de systèmes d’intégration et de livraison continues. Lorsqu’un conteneur de modèle démarre, il recherche d’abord des artefacts compilés déjà enregistrés. Lorsqu’il les trouve, Torch les réutilise au lieu de recommencer la compilation. Lorsqu’un conteneur s’arrête correctement, le système met à jour le cache si nécessaire. Les fichiers de cache sont indexés par version du modèle. Replicate les stocke à proximité des nœuds équipés de processeurs graphiques. Cette organisation relie donc chaque cache à une version précise du modèle et à l’environnement de calcul associé.

## Trois modèles bénéficient du cache

**Replicate documente l’usage** de `torch.compile` dans un guide consacré à l’amélioration des performances des modèles. Les résultats publiés portent sur trois modèles nommément identifiés, avec des gains de démarrage compris entre 50 % et 62 %. La comparaison de vitesse d’inférence porte spécifiquement sur `black-forest-labs/flux-kontext-dev`, dont la version compilée dépasse 30 % de gain face à la version non compilée. Les équipes qui souhaitent approfondir peuvent consulter le [tutoriel officiel de PyTorch](https://docs.pytorch.org/tutorials/intermediate/torch_compile_tutorial.html) et l’article de [Replicate](https://replicate.com/blog/torch-compile-caching). Replicate annonce ensuite un serveur MCP distant comme prochaine publication.