Par Arthur Dekeyser
En résumé
Les biais peuvent apparaître dans les données, les critères et les équipes qui conçoivent les systèmes.
Les outils de recrutement utilisant l’IA sont classés à haut risque par le cadre européen.
La Charte internationale pour une IA inclusive rassemble plus de 160 organisations.
Le signal : La Charte internationale pour une IA inclusive rassemble plus de 160 organisations, dont Orange, la Banque de France et L’Oréal.
Vous appréciez ce genre d'analyse ?
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs abonnés
Marianne Mazaud défend l’inclusion comme un critère de performance pour les systèmes d’intelligence artificielle. Dans une tribune publiée le 30 octobre 2026, la cofondatrice d’AI ON US relie diversité des regards, réduction des angles morts et qualité des produits. Le 13 octobre, World With Women appelait déjà à se mobiliser pour une IA plus inclusive. Son manifeste présente la mixité comme une capacité à croiser les points de vue et à concevoir autrement. Derrière chaque système, des personnes choisissent les données, définissent le problème, fixent les critères et organisent le déploiement. Le biais peut donc venir des données, mais aussi des décisions et des personnes présentes autour de la table. Lire la tribune de Marianne Mazaud.
Le recrutement concentre une partie visible de ces risques. Lors de travaux sur des fiches de poste de gouvernance, la docteure Cristina Lunghi, fondatrice d’Arborus, rapporte que 80 % des mots analysés avaient une sémantique masculine. Ces travaux ont conduit au développement d’un outil destiné à les neutraliser. D’autres biais sont plus indirects. L’engagement associatif, une rupture de carrière, un centre d’intérêt ou une localisation peuvent devenir des proxys statistiques défavorisant certains profils. Une entreprise peut donc reproduire ses biais sans utiliser explicitement une donnée sensible. Selon la tribune, cette sélection artificielle réduit le vivier de talents, la diversité des parcours et les idées utiles à l’innovation. Le sujet devient ainsi économique, en plus d’être social.
Le cadre européen classe les systèmes d’IA de recrutement parmi les systèmes à haut risque. Ces outils doivent répondre à des exigences de supervision, de documentation, de traçabilité et de transparence. Aux États-Unis, l’affaire Workday illustre le passage au contentieux. Dans une analyse publiée par Forbes en 2025, Janice Gassam Asare présente l’accusation de Derek Mobley contre le système de présélection de l’entreprise. Il lui reproche d’avoir défavorisé des candidats âgés de 40 ans et plus, des personnes en situation de handicap ou des candidats issus de minorités raciales. Ces éléments renforcent l’intérêt de contrôles réalisés avant le déploiement. Ils associent le traitement des biais à la conformité, à la gouvernance et à l’exposition juridique des organisations.
Les indicateurs économiques cités dans la tribune nourrissent cette hypothèse de performance. Sur les dix dernières années, McKinsey relève jusqu’à 25 % de rentabilité supplémentaire pour les entreprises les plus diverses. Les conseils d’administration plus mixtes affichent jusqu’à 27 % de performance supplémentaire. En 2023, les entreprises européennes aux équipes dirigeantes mixtes et diverses avaient 60 % de chances supplémentaires d’être plus rentables que la moyenne. Le rapport The ROI of AI Ethics du Digital Economist, publié en 2025, indique 13 % de retour sur investissement pour les organisations dotées d’une approche structurée, contre 5,9 %. Il associe aussi les audits éthiques à un retour sur investissement jusqu’à deux fois supérieur.
Les méthodes proposées incluent le red teaming appliqué à l’IA, les tests par population, les audits, les équipes multidisciplinaires et la diversité des utilisateurs testés. La tribune présente ces pratiques comme des moyens de mieux vérifier les systèmes construits. Elle rapporte aussi que 82 à 93 % des projets d’IA échoueraient, souvent en raison de problèmes de gouvernance, d’alignement ou de préparation. Le rapport du Digital Economist prolonge ce constat sur la relation entre éthique et performance. L’ouvrage scientifique collectif Harnessing Artificial Intelligence to Ensure Diverse Global Teams, publié en 2026 chez Academic Press, avance que des équipes plus diverses peuvent réduire les biais et produire des systèmes plus efficaces, plus justes et commercialement viables.
La mise en œuvre avance avec l’organisation jordanienne Intaj. Cristina Lunghi contribue à renforcer les critères d’un outil d’évaluation de la maturité en IA. Ces critères doivent intégrer la gouvernance, l’éthique, les fournisseurs et les clients. Sa Charte internationale pour une IA inclusive figure parmi les livrables français du Sommet pour l’action sur l’IA 2025-2026. Elle rassemble désormais plus de 160 organisations, dont Orange, la Banque de France et L’Oréal. Dans cette approche, l’inclusion vise à protéger la valeur contre les biais tardifs, les remédiations coûteuses et l’exposition juridique. Elle doit aussi soutenir la compréhension des utilisateurs, la confiance, l’adoption, l’innovation et la pertinence commerciale.
Gardez un coup d'avance en IA et tech.
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Zéro spam.
+11 000 fondateurs abonnés