Data Universe
Newsletter
GlossaireEEarly Stopping
Machine Learning

Early Stopping

Définition

Technique de régularisation qui arrête l'entraînement d'un modèle itératif (réseau de neurones, gradient boosting) dès que la performance sur un ensemble de validation cesse de s'améliorer, pour éviter l'overfitting. L'intuition : au début de l'entraînement, le modèle apprend des patterns généralisables (biais diminue, variance reste faible). Après un certain nombre d'itérations, le modèle commence à mémoriser le bruit du training set (biais continue de baisser mais variance augmente fortement). En sauvegardant le modèle au meilleur point de validation (EarlyStopping callback avec restore_best_weights), on obtient un modèle mieux généralisable. Paramètre 'patience' : nombre d'epochs sans amélioration avant d'arrêter. Particulièrement crucial pour les réseaux de neurones et XGBoost/LightGBM avec de nombreux rounds.

Exemples concrets

EarlyStopping callback Kerasearly_stopping_rounds XGBoostPatience = 10 epochsModelCheckpoint Keras
← Retour au glossaireTermes en “E

Fiche rapide

CatégorieMachine Learning
Exemples4 outils / technologies