Data Universe
Newsletter
Accueil/Encyclopédie/Transfer Learning (Apprentissage par transfert)
🔄Machine LearningAvancéDeep Learning

Transfer Learning (Apprentissage par transfert)

Technique qui réutilise un modèle pré-entraîné sur une grande tâche générale pour l'adapter rapidement à une tâche spécifique avec peu de données.

💡Explication simple

Un médecin qui apprend à lire des radios utilise sa connaissance générale de l'anatomie humaine (acquise en années d'étude) pour s'adapter rapidement à une nouvelle spécialité. Transfer Learning fait pareil : un modèle pré-entraîné sur 14 millions d'images (ImageNet) a déjà appris à reconnaître les formes, textures, contours. On réutilise ces connaissances pour reconnaître des tumeurs sur des radios avec seulement 5 000 exemples.

🏗️Exemple concret

Reconnaissance de défauts de fabrication : fine-tuner ResNet-50 (pré-entraîné sur ImageNet) sur 2 000 photos de défauts annotées. Résultat : 94% de précision en 2 heures d'entraînement. Entraîner de zéro aurait nécessité 500 000 photos et plusieurs jours de GPU.

∑ Concept clé

Fine-tuning : geler les couches initiales (features généraux), réentraîner les dernières couches (features spécifiques). θ_final = θ_pretrained + fine-tune(θ_last_layers, données_spécifiques)

🎯Quand l'utiliser ?

Peu de données labellisées disponibles
Domaines proches de la tâche originale
Réduction des coûts de calcul et de temps

✅ Avantages

+Excellentes performances avec peu de données
+Temps et coût d'entraînement fortement réduits
+Bénéficie des milliards de paramètres appris sur de grandes tâches

⚠️ Limites

Risque de negative transfer si les domaines sont trop différents
Complexité de choix du modèle source
Dépendance à des modèles tiers (conformité des licences)

🛠️ Outils principaux

HuggingFace Transformers
PyTorch Hub
TensorFlow Hub
FastAI
Deep LearningNLPComputer VisionEfficacité

Concepts liés

🔭

ACP / PCA (Analyse en Composantes Principales)

Apprentissage non supervisé

🤖

Agent IA — Intelligence artificielle autonome

IA Générative

😊

Analyse de sentiment (NLP)

NLP

🌳

Arbre de décision

Apprentissage supervisé

← Retour à l'encyclopédie