Kimi K3 sur AWS : le modèle à 2,8 trillions de paramètres dévoilé

Déploiement de Kimi K3. Le 27 juillet 2026, Moonshot AI a dévoilé Kimi K3, un modèle d’intelligence artificielle à 2,8 trillions de paramètres. Ce modèle est disponible pour déploiement sur AWS, offrant une intelligence de pointe avec des poids ouverts, permettant aux organisations de l’héberger sur leur infrastructure. Kimi K3 est un modèle MoE (Mixture of Experts), capable d’exécuter des tâches complexes incluant des workflows agentiques et un raisonnement avancé source.

Contexte technique. Kimi K3 utilise une architecture innovante avec Delta Attention et LatentMoE pour améliorer son efficacité, activant seulement 16 experts sur 896 par token. Ce modèle supporte la vision multimodale et le texte, ce qui lui permet d’exceller dans les tâches de codage à long terme. Son lancement marque une première dans la catégorie des modèles ouverts à 3 trillions de paramètres.

Infrastructure requise. Pour héberger efficacement Kimi K3, une instance p6-b300 est nécessaire. Celle-ci est équipée de 8 GPU NVIDIA B300 Ultra, essentiels pour le traitement parallèle des tensors, selon le format de quantisation MXFP4. AWS propose deux méthodes pour réserver cette capacité : les Plans de Formation Flexibles et les Blocs de Capacité documentation.

Implications pour les entreprises. Les entreprises peuvent désormais accéder à Kimi K3 via Amazon SageMaker HyperPod ou Amazon EKS. Cela simplifie la gestion de l’orchestration des conteneurs et optimise la gestion des charges de travail grâce à des instances dédiées, essentielles pour des besoins de traitement intensif.

Affectation en PME. Pour les PME françaises, Kimi K3 fourni par AWS facilite l’innovation en IA sans investissements initiaux massifs en infrastructure. Cela ouvre des opportunités pour la recherche et le développement, ainsi que pour des applications personnalisées d’intelligence artificielle à grande échelle.

Concurrence et positionnement. Comparé à son prédécesseur, Kimi K2, de Moonshot AI, Kimi K3 offre une amélioration de l’efficacité de mise à l’échelle de 2,5 fois, établissant un nouveau rapport qualité-mémoire pour les déploiements d’inférence à grande échelle plus d’information.

Prochaines étapes. En attendant l’intégration future de Kimi K3 dans le conteneur principal vLLM, l’adoption de ce modèle peut transformer les capacités d’inférence des utilisateurs, avec des mises à jour prévues pour simplifier encore son déploiement et sa gestion.