Aditya Parameswaran voit les agents bouleverser les données

Coût en baisse Aditya G. Parameswaran, professeur associé d’EECS à l’université de Californie à Berkeley, décrit une nouvelle architecture des données pour les agents. Son analyse accompagne une baisse rapide du prix de l’inférence. Les capacités comparables à GPT-4 coûtaient environ 30 dollars par million de jetons au début de 2023. Elles coûtent aujourd’hui moins d’un dollar selon le texte. Certains fournisseurs passent sous 0,10 dollar. Les prix ont reculé de 9 à 900 fois par an selon les tests cités. La baisse médiane atteint environ 50 fois. Parameswaran codirige aussi l’EPIC Data Lab. Voir son profil et l’analyse originale.

Trois architectures émergent Les auteurs distinguent les systèmes de données pour les agents, ceux des agents et ceux construits par les agents. Le premier modèle adapte les bases aux comportements des agents. Le deuxième fournit un support pour la mémoire, la coordination, l’état partagé et les défaillances. Le troisième permettrait aux agents de synthétiser des systèmes personnalisés pour chaque tâche. Cette évolution repose sur une hypothèse précise du texte. Les capacités actuelles suffisent déjà à une grande partie du travail de connaissance. Leur coût continue aussi de diminuer chaque mois. L’analyse est présentée comme une étude du paysage et comme une prise de position.

Les agents multiplient les requêtes

Requêtes exploratoires Un agent interrogeant une base ne se comporte pas comme une personne ou un outil de décision. Il explore les schémas, les colonnes et plusieurs formulations de requêtes. Avec plusieurs agents, une demande peut produire des milliers de requêtes SQL. Une analyse de cause racine peut chercher pourquoi les ventes de café ont baissé à Berkeley. Une analyse de cohortes peut comparer les segments susceptibles de se désabonner au trimestre suivant. Dans un test texte vers SQL, seulement 10 à 20 % des sous-plans étaient distincts. Les 80 à 90 % restants répétaient donc un travail similaire. Les essais supplémentaires augmentaient toutefois fortement la réussite.

Optimisations proposées Les systèmes pourraient réutiliser les résultats de sous-plans qui se recouvrent. Ils pourraient aussi fournir des réponses approximatives pour accélérer la progression d’un agent. Une autre option consiste à diffuser progressivement les résultats intermédiaires. L’agent pourrait alors décider de poursuivre ou non une opération coûteuse. Les auteurs proposent également des lots de requêtes avec des exigences d’approximation propres à chaque requête. Des primitives de niveau supérieur pourraient remplacer l’énumération de chaque requête SQL. Des macros de type Jinja, utilisées dans DBT, sont citées comme exemple. Le système pourrait enfin estimer la latence, suggérer des résultats liés ou préparer des vues matérialisées et virtuelles.

La mémoire structurée coordonne les agents

État partagé Les fichiers Markdown et la recherche par mots-clés restent utiles pour les agents. Cette approche rencontre toutefois des limites quand les tâches mobilisent de grandes bases ou des bases de code. Injecter de nombreux fragments dans le contexte augmente aussi la latence. Une mémoire structurée pourrait filtrer les informations selon plusieurs attributs. Pour un agent de données, ces attributs pourraient inclure les tables, les colonnes et le type d’opération. Une instruction corrective pourrait préciser d’utiliser l’année fiscale plutôt que l’année civile. Une autre pourrait recommander la colonne product_cleaned pour rechercher un nom de produit. Les auteurs rapprochent cette organisation d’un schéma adapté à chaque application.

Coordination concurrente Des milliers d’agents pourraient modifier un état partagé en parallèle. Les techniques de multiversionnage et de copie à l’écriture sont évoquées, sans garantie suffisante selon l’analyse. La plupart des transactions exploratoires devraient être annulées, tandis qu’une seule persisterait. Les sémantiques exactement une fois, les CRDT et la transformation opérationnelle font partie des pistes citées. Les agents doivent aussi gérer les échecs, les agents retardataires et la communication. Un risque particulier est le livelock, quand des actions compensatoires empêchent tout progrès utile. Quatre agents développeurs pourraient enfin devoir négocier un schéma commun. Des solutions d’exécution durable, comme Temporal, sont mentionnées pour cette coordination multi-agent. Pour aller plus loin, consultez notre guide sur déployer un agent IA en PME sans développeur.