# Bank of America double son budget IA avec Orchestra

> Bank of America doublera son budget IA en 2027 et utilise Orchestra pour router les requêtes vers des modèles adaptés à leur coût.

Type : Actualité IA · Catégorie : Stratégie · Publié le 2026-10-30 · Signal IA - Order & Chaos · Secteur : Finance
Source : https://www.orderchaos.eu/signal-ia/actu/bank-of-america-optimise-ses-couts-avec-orchestra
Tags : ia, banque, coûts, modèles, données, agents-ia, open-source, llm

---

## En résumé

- Bank of America doublera son budget IA en 2027.
- Orchestra route les requêtes vers des modèles moins coûteux.
- Capital One réduit la latence de Chat Concierge par cinq.

**Le signal :** Orchestra route les requêtes de Bank of America vers le modèle financièrement le plus adapté.

**Budget doublé** Bank of America prévoit de doubler son budget consacré à l’intelligence artificielle en 2027. Hari Gopalkrishnan, directeur général de la technologie et de l’information, l’a annoncé lors du symposium Evident AI à New York, le 22 octobre 2026. L’établissement veut notamment améliorer Erica, son assistant financier utilisant l’IA. Erica doit mieux conserver le contexte institutionnel et réaliser des transactions plus complexes. Ces fonctions pourront nécessiter des modèles plus avancés. Toutefois, Bank of America ne prévoit pas d’utiliser systématiquement ces modèles pour chaque interaction. L’objectif opérationnel consiste à orienter chaque requête vers un modèle adapté à sa difficulté et à son coût. [Lire l’article original](https://www.bankingdive.com/news/bank-of-america-gopalkrishnan-capital-one-natarajan-manage-ai-costs/873146/).

**Orchestra trie les requêtes** Bank of America utilise une couche de routage appelée Orchestra. Cette couche s’appuie sur un petit modèle de classification pour diriger chaque requête vers le modèle jugé le plus efficace financièrement. Hari Gopalkrishnan présente la gestion de la consommation de jetons et l’orientation vers des modèles moins coûteux comme une tactique importante de maîtrise des dépenses. La banque veut aussi éviter de dépendre d’un modèle particulier. Son dispositif conserve donc des petits modèles de langage existants et des modèles ajustés pour des usages spécifiques. Selon Gopalkrishnan, certaines décisions simples peuvent être prises par un classificateur, sans recourir à un grand modèle de langage.

## Capital One compresse ses modèles

**Latence divisée** Capital One applique une logique comparable avec Chat Concierge, une application multiagent destinée à accompagner les acheteurs de voitures. Prem Natarajan, directeur de l’IA d’entreprise et scientifique en chef de Capital One, indique que la banque a distillé ses modèles à poids ouverts. Ces modèles avaient été ajustés avec des données propriétaires avant leur réduction. Les modèles plus petits ont permis de réduire la latence d’un facteur cinq, selon Natarajan. Ils ont aussi augmenté de 50 % l’engagement des concessionnaires. Ces résultats sont associés à l’usage de modèles ajustés et plus compacts dans Chat Concierge. L’application aide les acheteurs à parcourir les différentes étapes du processus automobile.

**Routage chez Snowflake** Les fournisseurs ajoutent eux aussi des fonctions de routage pour encadrer les coûts et la qualité des réponses. Snowflake a intégré un routage dynamique à Cortex AI Gateway. Cette fonction sélectionne automatiquement le modèle approprié pour traiter une requête donnée. Les banques travaillent également sur le contrôle des agents et la préparation des données. Pour 2027, Bank of America prévoit des garde-fous stricts. Ils doivent maintenir les agents dans leur durée d’exécution autorisée et leur interdire d’achever plusieurs tâches de manière autonome. La banque fait aussi évoluer l’instrumentation, la télémétrie et les boucles de retour. [Voir la fonctionnalité de Snowflake](https://www.ciodive.com/news/snowflake-adds-cost-control-feature-cortex-ai-gateway/828199/).

**Données mieux préparées** Capital One considère sa base de données comme un élément central de sa stratégie d’IA. La banque a adopté tôt une architecture technologique moderne dans le nuage et utilise l’apprentissage automatique depuis plusieurs années. Prem Natarajan affirme disposer de volumes importants de données bien gérées et organisées. Les agents et l’IA générative augmentent toutefois les exigences envers cet écosystème de données. Capital One prévoit donc de continuer à renforcer sa couche de données fondamentale. Natarajan estime que les décisions d’ingénierie et d’architecture prises dans les couches basses peuvent faciliter ou limiter les usages supérieurs. Lorsque nécessaire, la banque reconstruit son architecture depuis la base.
Pour aller plus loin, consultez notre guide sur [réduire ses coûts grâce à l'IA](/signal-ia/guides/reduire-couts-ia-automatisations-pme-2026).