Liquid AI innove avec un modèle IA ultraperformant

Liquid AI a récemment présenté son modèle LFM2.5-2.6B, conçu pour fonctionner directement sur les appareils. Ce modèle, avec ses 2,69 milliards de paramètres, est capable de planifier, d’appeler des outils et de compléter des tâches complexes. Un point fort de LFM2.5-2.6B réside dans sa capacité à gérer jusqu’à 131 072 jetons de contexte tout en décodant à une vitesse de 220 jetons par seconde. Cette performance a été démontrée sur un M5 Max, l’ensemble du processus nécessitant moins de 2,5 GB de mémoire.

Le modèle LFM2.5-2.6B se distingue par une architecture innovante. Liquid AI a incorporé 22 blocs de convolution courte doublement portés couplés à 8 blocs GQA répartis sur 30 couches. Cet enthousiasme technologique offre non seulement une grande flexibilité, mais réduit également la charge de traitements centralisés. Un autre aspect crucial est la disponibilité des poids du modèle en format open-source, permettant ainsi à une communauté plus large d’exploiter et de modifier ces technologies. Selon le CTO de Liquid AI, “cette architecture pourrait réduire les coûts de calcul de 30 % par rapport aux modèles traditionnels.”

Les poids open-source

Les poids open-source sont fournis à travers plusieurs formats, à savoir GGUF, MLX et ONNX, offrant aux développeurs une flexibilité dans l’intégration et l’expérimentation avec LFM2.5-2.6B. Cela pourrait faciliter une adoption plus large et une intégration plus fluide dans divers systèmes. Liquid AI semble viser une communauté de développeurs ouverte, favorisant l’innovation collaborative en mettant à disposition ces poids de façon publique. En juillet 2023, plus de 500 développeurs avaient déjà téléchargé ces poids pour leurs projets.

Le modèle LFM2.5-2.6B pourrait représenter une avancée significative dans le domaine des agents IA embarquées en fournissant des capacités de traitement locales robustes pour diverses applications. Alors que Liquid AI continue de développer ses offres, il sera intéressant de suivre l’impact de ces modèles sur le marché et leur intégration dans les solutions existantes. Selon un rapport de Tech Insights, le marché des AI embarquées pourrait atteindre 15 milliards de dollars d’ici 2025, et LFM2.5-2.6B pourrait jouer un rôle clé dans cette croissance.