🏗️Exemple concret
Scoring crédit : le conseiller voit que le dossier Dupont est refusé (score 0.82 = risque élevé). SHAP explique : +0.30 (3 incidents de paiement dans les 12 mois), +0.22 (endettement à 48%), +0.15 (ancienneté emploi < 6 mois), -0.10 (propriétaire = facteur positif). Le conseiller peut expliquer le refus au client — obligation RGPD remplie.
∑ Concept clé
SHAP value φᵢ = Σ [|S|!(|F|-|S|-1)!/|F|!] × [f(S∪{i}) - f(S)], pour tous les sous-ensembles S. En pratique : TreeSHAP pour les arbres (O(TL²) exact), LinearSHAP pour les modèles linéaires.
🎯Quand l'utiliser ?
✓Explicabilité réglementaire (scoring crédit, assurance)
✓Compréhension des features importants (feature selection)
✓Débogage de modèles (feature à corriger identifié)
✅ Avantages
+Cohérent mathématiquement (propriétés Shapley)
+Applicable à tout modèle (boîte noire ou non)
+Explications locales (par prédiction) ET globales (importance globale)
⚠️ Limites
−Coûteux en calcul sur les modèles complexes (SHAP naïf est exponentiel)
−Valeurs SHAP pas toujours intuitives à interpréter
−Peut être manipulé pour produire de fausses explications
🛠️ Outils principaux
SHAP (Python)
LIME (alternative)
Dataiku (SHAP intégré)
Azure ML Explainability
Vertex AI Explainability
MLExplainabilitéIA ResponsableScoringRGPD