Markus Brunnermeier alerte sur cinq chocs de l’IA

Markus Brunnermeier a présenté cinq scénarios de rupture liés à l’intelligence artificielle lors du symposium économique de la Banque fédérale de réserve de Kansas City, à Jackson Hole. Le professeur de Princeton s’adressait à environ 120 banquiers centraux, économistes et universitaires. Les participants comprenaient Kevin Warsh, président de la Réserve fédérale, Andrew Bailey, gouverneur de la Banque d’Angleterre, et Tiff Macklem, gouverneur de la Banque du Canada. Brunnermeier a déclaré que l’IA pouvait perturber les institutions et la confiance de manière fondamentale. Il a résumé son propos ainsi : « Les banquiers construisent la confiance, comme les banquiers centraux. »

Cinq scénarios structurent son intervention. Des agents de négociation pourraient coordonner des opérations de type « pump-and-dump » indétectables sur des marchés peu liquides. Des participants équipés d’IA pourraient aussi mieux comprendre les réactions des banques centrales que celles-ci ne comprennent les marchés pilotés par l’IA. Les coupe-circuits pourraient déclencher davantage de chaos en interrompant les couvertures, les appels de marge et la liquidité algorithmique. La concentration de plusieurs modèles fondamentaux entre quelques entreprises créerait des points de blocage. Enfin, l’IA pourrait faciliter les fausses informations, le hameçonnage, les preuves fabriquées et les transferts non autorisés. Lire l’analyse complète d’American Banker.

Les agents pourraient manipuler les marchés

Manipulation coordonnée : Brunnermeier estime que plusieurs agents peuvent agir de concert sans communication ni intention explicite. Sur un marché peu liquide, de petits ordres suffisent à déplacer les prix. Si de nombreux agents coordonnent tacitement leurs opérations, aucun intervenant isolé ne serait assez important pour être identifié comme manipulateur. Sultan Meghji, ancien directeur de l’innovation de la FDIC et expert technique au Center for Strategic and International Studies, partage cette inquiétude. Selon lui, des modèles apparemment indépendants peuvent être construits ou entraînés de façon similaire. Cette situation compliquerait les enquêtes, car il n’y aurait ni message à saisir, ni données à suivre, ni personne unique à poursuivre.

Réaction des autorités : Brunnermeier décrit une asymétrie entre les agents de marché et les banques centrales. Les discours, procès-verbaux et historiques des banques centrales servent de données d’entraînement aux outils d’IA. En revanche, l’écosystème de l’IA reste moins lisible pour les autorités monétaires. Cette asymétrie pourrait permettre aux intervenants de simuler des réactions réglementaires dans des fonctions difficiles à expliquer. Les coupe-circuits, utilisés historiquement pour contenir des krachs éclair, poseraient alors un problème supplémentaire. Un arrêt brutal pourrait interrompre les couvertures, provoquer des appels de marge en cascade et faire disparaître la liquidité fournie par les teneurs de marché algorithmiques.

Quelques modèles pourraient devenir des points de blocage

Concentration technologique : Brunnermeier oppose un secteur alimenté par plusieurs fournisseurs à un système dépendant d’une ou quelques entreprises. Dans le premier cas, les utilisateurs financiers peuvent changer de fournisseur lorsqu’un modèle rencontre une difficulté. Dans le second, les conditions commerciales, les prix et les pannes d’un fournisseur se propagent simultanément à de nombreux utilisateurs. Une faille dans un modèle largement utilisé toucherait aussi tous ses utilisateurs au même moment. Meghji compare cette exposition à la concentration observée dans les systèmes bancaires centraux et les fournisseurs d’informatique en nuage, tout en jugeant le risque encore plus élevé.

Réponse proposée : Brunnermeier appelle les autorités bancaires à favoriser une certaine standardisation des modèles aux États-Unis. Il recommande une régulation précoce limitant la différenciation des produits d’IA et maintenant de faibles coûts de changement entre versions et fournisseurs. Le passage à des modèles concurrents ou à des versions précédentes devrait rester possible, selon lui. Il souhaite également que les régulateurs bancaires puissent évaluer les grands modèles avant leur diffusion publique. Un décret signé par le président Donald Trump en juin a demandé aux principaux fournisseurs de modèles de permettre volontairement un examen gouvernemental trente jours avant leur publication.

Fraude générée : Brunnermeier estime que les fausses informations, les conseils trompeurs et les produits frauduleux peuvent être produits aussi bon marché que leurs équivalents réels. Les mêmes capacités peuvent alimenter des cyberattaques, du hameçonnage et des preuves fabriquées. Une injection de consigne ou une hallucination pourrait conduire à une transaction non autorisée ou à un transfert de fonds. Il questionne aussi la validation automatisée par d’autres agents. Des modèles proches, entraînés sur une même base, pourraient commettre des erreurs corrélées et manquer les mêmes manipulations. Une centaine de validateurs presque identiques donnerait alors une apparence de consensus sans fournir cent avis réellement indépendants. Retrouvez Penny Crosman sur LinkedIn.