Goldman Sachs craint que l’IA n’atrophie le raisonnement

Alerte de Goldman Sachs Chris Churchman, partenaire de Goldman Sachs et dirigeant de sa plateforme numérique Marquee, met en garde contre un risque lié à l’IA. Il estime que les banquiers pourraient déléguer leur raisonnement aux modèles. Cette dépendance provoquerait, selon lui, une « atrophie cognitive » réduisant leur capacité à raisonner depuis les principes fondamentaux. Churchman a formulé cette analyse dans le dernier épisode du podcast Exchanges de Goldman Sachs, dont une transcription a été fournie à CNBC. Il a résumé le danger ainsi : le raisonnement reste nécessaire, même lorsque les modèles structurent davantage le travail analytique.

Une formation sous pression Churchman compare ce risque à la perte de certaines aptitudes de navigation ou de mémorisation après l’arrivée de technologies modernes. Selon lui, l’automatisation des tâches routinières peut aussi réduire les occasions d’apprentissage des jeunes banquiers et traders. Ces tâches transmettent traditionnellement des méthodes de décision et une compréhension des marchés. Goldman Sachs doit donc préserver sa culture d’apprentissage par la pratique, a-t-il déclaré. Churchman a rejoint Goldman en 2021 après avoir dirigé le trading de devises chez UBS. Il a également indiqué que les banques examinent déjà des moyens de réduire le ratio de juniors par rapport aux profils seniors.

Goldman Sachs protège les savoirs tacites

Le travail sous supervision Les jeunes traders apprennent notamment en répondant aux demandes de prix des clients sous la supervision de preneurs de risque expérimentés. Churchman estime que ce processus peut être automatisé. Il pose toutefois une question sur la transmission des compétences : les traders seniors conserveront-ils une compréhension complète des décisions prises ? Selon lui, une partie importante des connaissances reste tacite et n’a jamais été écrite. Goldman Sachs doit préserver cette connaissance intuitive détenue par ses meilleurs collaborateurs. L’objectif déclaré concerne aussi la prochaine génération. Churchman dirige Marquee, une plateforme destinée aux clients institutionnels, notamment les fonds spéculatifs.

Des décisions humaines requises Churchman recommande de concevoir les systèmes afin que les employés conservent la décision finale dans les situations à forts enjeux et incertitude élevée. Ils ne doivent pas devenir, selon lui, de simples opérateurs passifs. Goldman Sachs n’a pas encore déterminé comment gérer entièrement cette transition, a-t-il précisé. Churchman copréside aussi le groupe de travail sur l’IA de la division Global Banking and Markets. Cette position relie directement l’automatisation des processus bancaires à la formation interne. Elle laisse également ouverte la répartition future des tâches entre modèles, collaborateurs juniors et experts seniors.

Marquee vérifie les réponses financières

Une précision difficile Marquee donne accès aux données de marché, à la recherche, aux analyses de risques et aux services d’exécution de transactions de Goldman Sachs. Sa plateforme d’IA reste actuellement réservée aux employés de la banque. Churchman identifie la précision comme le principal défi technique de son développement. Les réponses doivent être exactes à 100 % et auditables, car la tolérance aux erreurs est faible dans la finance. Il rapporte aussi qu’après une mise à l’épreuve, le logiciel a reconnu être meilleur pour paraître complet que pour être réellement complet. Cette observation renforce l’exigence de contrôle humain sur les réponses produites.