Définition
Explicabilité (XAI - Explainable AI)
Ensemble de méthodes permettant aux humains de comprendre la logique et les décisions prises par les algorithmes d'IA.
Publié le 4 mars 2026par ZoneIA
L’explicabilité regroupe des techniques qui rendent les prédictions d’un modèle compréhensibles pour un humain. L’objectif est de répondre à des questions comme : pourquoi cette décision ? quels facteurs ont le plus compté ? dans quelles conditions le modèle se trompe ? Elle est particulièrement importante quand les modèles sont complexes (réseaux de neurones, ensembles) et utilisés dans des contextes sensibles.
Comment ça fonctionne
On distingue souvent :
- Explications globales : vision d’ensemble du comportement du modèle (variables les plus influentes, règles approximatives, courbes de dépendance).
- Explications locales : justification d’une prédiction précise (pour une demande de crédit donnée, quels attributs ont poussé vers “accepté” ou “refusé”).
- Modèles intrinsèquement interprétables : régression linéaire, arbres peu profonds, règles.
- Méthodes post-hoc : appliquées après entraînement (LIME, SHAP, importance par permutation, cartes de saillance en vision).
À quoi ça sert
- Confiance et adoption : faciliter l’acceptation par les utilisateurs.
- Débogage : détecter des biais, des fuites de données, des corrélations non souhaitées.
- Conformité : aider à répondre à des exigences réglementaires et d’audit.
Exemples
- Expliquer une alerte fraude en listant les signaux principaux.
- Visualiser quelles zones d’une image influencent une classification.
- Justifier une recommandation produit par les caractéristiques dominantes.