Explainability (XAI)
L'explicabilité (XAI, Explainable AI) désigne la capacité à comprendre et expliquer les décisions d'un modèle IA en langage humain. C'est un enjeu crucial pour les applications à fort enjeu comme la santé, la justice ou la finance.
Un modèle qui refuse un crédit bancaire doit pouvoir justifier sa décision (ancienneté professionnelle insuffisante, ratio dette/revenu trop élevé) pour respecter la réglementation et permettre le droit de recours.
L'explicabilité (XAI, Explainable AI) désigne la capacité à comprendre et expliquer les décisions d'un modèle IA en langage humain. C'est un enjeu crucial pour les applications à fort enjeu comme la santé, la justice ou la finance.
Un modèle qui refuse un crédit bancaire doit pouvoir justifier sa décision (ancienneté professionnelle insuffisante, ratio dette/revenu trop élevé) pour respecter la réglementation et permettre le droit de recours.
Explicabilité et Machine Learning sont deux concepts liés mais distincts dans l'écosystème IA. Pour approfondir : Machine Learning, Biais algorithmique, Éthique de l'IA, AI Act.
Gardez un coup d'avance en business et IA
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs abonnés