Formation Deep Learning Avancé en Vision par Ordinateur

Leçon 1 • Fonctions de perte et optimisation

Examine la perte d'entropie croisée, la MSE et les pertes personnalisées, ainsi que SGD, Adam et les planifications du taux d'apprentissage. Permet directement un entraînement efficace du modèle dans les chapitres suivants.

Leçon 2 • Protocoles d'entraînement, de validation et de test

Définit les divisions train/val/test, le diagnostic de surapprentissage et les bases de la régularisation. Établit des habitudes d'évaluation rigoureuses utilisées tout au long du cours.

Leçon 3 • Pipelines de données pour les tâches d'image

Enseigne le chargement efficace des images, le batching, la normalisation et les pipelines d'augmentation. Garantit que les étudiants peuvent alimenter correctement les données dans n'importe quel modèle de vision.

Leçon 4 • Essentiels d'algèbre linéaire et de calcul

Couvre les tenseurs, les opérations matricielles, les gradients et la règle de chaîne appliqués aux réseaux de neurones. Fournit le socle mathématique pour tous les concepts d'entraînement de modèles ultérieurs.

Leçon 1 • Mécaniques de l'opération de convolution

Explique les noyaux, le stride, le padding et les champs réceptifs avec une intuition spatiale. Ancre les étudiants dans l'opération fondamentale qui définit tous les modèles de vision basés sur CNN.

Leçon 2 • Normalisation par lots et régularisation

Enseigne la normalisation par lots, la normalisation de couche et le placement du dropout dans les blocs CNN. Permet un entraînement stable et rapide des réseaux profonds introduits dans les chapitres suivants.

Leçon 3 • Architectures CNN classiques et modernes

Passe en revue AlexNet à travers EfficientNet, en soulignant les décisions de conception et les gains de performance. Fournit le vocabulaire architectural utilisé dans l'apprentissage par transfert et la conception personnalisée.

Leçon 4 • Analyse du pooling et des cartes de caractéristiques

Couvre le pooling max, le pooling moyen et le pooling global pour le sous-échantillonnage spatial. Relie la réduction des cartes de caractéristiques à l'invariance par translation et à l'efficacité du modèle.

Leçon 1 • Écosystèmes de modèles pré-entraînés

Passe en revue les hubs de modèles, les poids pré-entraînés et les jeux de données de référence utilisés dans l'apprentissage par transfert. Oriente les étudiants vers les ressources disponibles avant d'appliquer les techniques de fine-tuning.

Leçon 2 • Extraction de caractéristiques vs fine-tuning complet

Oppose l'extraction de caractéristiques avec backbone gelé aux approches de fine-tuning de bout en bout. Guide les étudiants dans le choix de la bonne stratégie en fonction de la taille et de la similarité du jeu de données.

Leçon 3 • Fondamentaux de l'adaptation de domaine

Couvre le décalage de covariable, la mesure de l'écart de domaine et les stratégies d'adaptation pour les modèles de vision. Étend l'apprentissage par transfert aux scénarios où les domaines source et cible diffèrent significativement.

Leçon 4 • Évaluation des résultats de l'apprentissage par transfert

Définit les métriques pour comparer l'entraînement par transfert vs de zéro et diagnostiquer un transfert négatif. Conclut le flux de travail de fine-tuning avec une évaluation rigoureuse des performances.

Leçon 1 • Détecteurs en deux étapes

Couvre en détail les réseaux de propositions de régions R-CNN, Fast R-CNN et Faster R-CNN. Fournit la base historique et technique pour comprendre les pipelines de détection modernes.

Leçon 2 • Détecteurs à une étape et sans ancres

Examine les variantes SSD, YOLO, FCOS et CenterNet pour la détection en temps réel. Oppose les compromis vitesse-précision avec les approches en deux étapes pour les décisions de déploiement.

Leçon 3 • Métriques d'évaluation de la détection

Enseigne la précision moyenne moyenne, les courbes précision-rappel et les protocoles d'évaluation COCO. Permet un benchmarking rigoureux et une comparaison des performances du modèle de détection.

Leçon 4 • Formulation du problème de détection

Définit la régression des boîtes englobantes, les têtes de classification et la perte multi-tâches pour la détection. Établit le cadre conceptuel avant d'introduire les architectures de détection spécifiques.

Leçon 1 • Préparation de jeux de données de segmentation

Aborde les flux de travail d'annotation de masques, la supervision faible et les stratégies d'étiquetage semi-supervisées. Réduit le coût d'annotation tout en maintenant la qualité du modèle pour des projets de segmentation réels.

Leçon 2 • Fondamentaux de la segmentation sémantique

Introduit les réseaux entièrement convolutifs, la conception encodeur-décodeur et les connexions sautées. Établit le paradigme de prédiction dense qui sous-tend toutes les architectures de segmentation.

Leçon 3 • Méthodes de segmentation d'occurrence

Enseigne Mask R-CNN, SOLO et CondInst pour prédire des masques binaires par occurrence. Établit un pont entre les connaissances en détection d'objets et la différenciation d'occurrence au niveau pixel.

Leçon 4 • Fonctions de perte et métriques de segmentation

Couvre la perte Dice, la perte focale et l'IoU moyenne pour entraîner et évaluer les modèles de segmentation. Fournit les outils quantitatifs nécessaires pour optimiser et comparer les sorties de prédiction dense.

Leçon 1 • Fine-tuning de transformateurs pour les tâches de vision

Couvre les couches d'adaptateur, le réglage des invites et LoRA pour un fine-tuning efficace des paramètres du transformateur. Réduit le coût de calcul tout en adaptant les grands transformateurs de vision pré-entraînés aux tâches personnalisées.

Leçon 2 • Visualisation de l'attention et interprétabilité

Enseigne l'extraction de cartes d'attention, le rollout et l'attribution basée sur le gradient pour les transformateurs. Permet le débogage du modèle et la communication avec les parties prenantes via des explications visuelles.

Leçon 3 • Auto-attention et bases du transformateur

Explique l'attention requête-clé-valeur, l'attention multi-têtes et les encodages positionnels pour les séquences. Fournit le fondement théorique avant d'appliquer les transformateurs aux données d'image.

Leçon 4 • Architecture du transformateur de vision

Couvre l'ancrage par patch, les jetons de classe et les exigences d'entraînement de ViT à grande échelle. Relie les concepts de transformateur NLP à la classification d'images via la tokenisation par patch.

Leçon 1 • Modèles de diffusion pour la synthèse d'images

Enseigne le processus de bruitage avant, l'appariement de score de débruitage et l'échantillonnage DDPM pour la génération d'images. Positionne les modèles de diffusion comme l'état de l'art actuel en synthèse haute fidélité.

Leçon 2 • Autoencodeurs variationnels pour les images

Introduit l'objectif VAE, l'astuce de reparamétrisation et la structure de l'espace latent pour les images. Établit la modélisation générative probabiliste avant de passer aux méthodes adversariales et de diffusion.

Leçon 3 • Fondamentaux des réseaux antagonistes génératifs

Couvre l'objectif minimax, la conception du discriminateur et les problèmes d'instabilité d'entraînement dans les GAN. Fournit la base d'entraînement adversarial pour la synthèse d'images et le transfert de domaine.

Leçon 4 • Modèles génératifs comme augmentation de données

Couvre la génération de données synthétiques, l'augmentation basée sur les GAN et le filtrage de qualité pour les tâches en aval. Applique directement les techniques génératives pour améliorer les performances des modèles discriminatifs.

Leçon 1 • Distillation de connaissances

Introduit les frameworks enseignant-élève, les cibles molles et la distillation au niveau des caractéristiques pour les modèles de vision. Transfère la précision des grands modèles vers des réseaux élèves compacts pour un déploiement efficace.

Leçon 2 • Exportation de modèle et optimisation à l'exécution

Couvre l'exportation ONNX, l'optimisation TensorRT et la compilation spécifique au matériel pour l'inférence. Établit le pont entre l'entraînement du modèle de recherche et le service en production sur diverses cibles matérielles.

Leçon 3 • Techniques de compression de modèle

Enseigne l'élagage des poids, l'élagage structuré et la factorisation de bas rang pour réduire la taille du modèle. Permet le déploiement sur des appareils à ressources limitées sans perte significative de précision.

Leçon 4 • Service, surveillance et cycle de vie du modèle

Enseigne le service REST et gRPC, les tests A/B et la surveillance de la dérive des données pour les modèles de vision déployés. Complète le pipeline de production avec les meilleures pratiques opérationnelles pour la fiabilité à long terme.