Explicabilité (XAI - Explainable AI)

L’explicabilité regroupe des techniques qui rendent les prédictions d’un modèle compréhensibles pour un humain. L’objectif est de répondre à des questions comme : pourquoi cette décision ? quels facteurs ont le plus compté ? dans quelles conditions le modèle se trompe ? Elle est particulièrement importante quand les modèles sont complexes (réseaux de neurones, ensembles) et utilisés dans des contextes sensibles.

Comment ça fonctionne

On distingue souvent :

• Explications globales : vision d’ensemble du comportement du modèle (variables les plus influentes, règles approximatives, courbes de dépendance).
• Explications locales : justification d’une prédiction précise (pour une demande de crédit donnée, quels attributs ont poussé vers “accepté” ou “refusé”).
• Modèles intrinsèquement interprétables : régression linéaire, arbres peu profonds, règles.
• Méthodes post-hoc : appliquées après entraînement (LIME, SHAP, importance par permutation, cartes de saillance en vision).

À quoi ça sert

• Confiance et adoption : faciliter l’acceptation par les utilisateurs.
• Débogage : détecter des biais, des fuites de données, des corrélations non souhaitées.
• Conformité : aider à répondre à des exigences réglementaires et d’audit.

Exemples

• Expliquer une alerte fraude en listant les signaux principaux.
• Visualiser quelles zones d’une image influencent une classification.
• Justifier une recommandation produit par les caractéristiques dominantes.