Enforcement IA : alerte sur un défi majeur en finance

La gouvernance de l’IA dans les services financiers est un problème contemporain selon Brian Rubin, lors d’une discussion avec Red Oak Compliance. Rubin, partenaire chez Eversheds Sutherland, a une expérience variée en réglementation financière et perçoit une apparition imminente du cycle d’enforcement IA.

Adoption rapide et enforcement régulateur se font écho dans le secteur selon Rubin. Il compare le développement actuel de l’IA avec celui des emails et des réseaux sociaux, soulignant que l’absence de règles spécifiques n’empêche pas le recours aux règles de conformité existantes. Des exemples précédents incluent l’utilisation de messageries hors canal régulée par les anciennes règles de conservation de documents.

Les examinateurs ciblent des revendications exagérées d’utilisation de l’IA et des manquements dans la gestion opérationnelle comme des communications générées par l’IA non revues et des enregistrements manquants, d’après la discussion de Red Oak. Des préoccupations émergent aussi autour des usages non autorisés de l’IA, impliquant des données clients dans des outils publics, créant des risques de sécurité et de confidentialité.

Rubin conseille une gouvernance préalable au déploiement de l’IA, impliquant les départements de la conformité, légal, technologie et business, avec un processus d’approbation documenté pour chaque cas d’utilisation. La culture de l’entreprise est également cruciale, formant les employés à considérer l’IA comme un assistant faillible, toujours dans une optique de conformité consciente.