Cours d'ingénierie ML

Leçon 1 • Python pour l'ingénierie ML

Couvre les idiomes Python, le calcul numérique et les bibliothèques de manipulation de données utilisées tout au long du cours. Met l'accent sur la qualité du code et la reproductibilité dès le premier jour.

Leçon 2 • Configuration de l'environnement de développement

Configure des environnements locaux et cloud reproductibles pour le travail en ML. Présente le contrôle de version et la gestion des dépendances comme des standards professionnels.

Leçon 3 • Notions mathématiques essentielles pour le ML

Passe en revue l'algèbre linéaire, le calcul infinitésimal, les probabilités et les statistiques à la profondeur requise pour la compréhension des modèles. Relie les concepts mathématiques directement au comportement des algorithmes.

Leçon 1 • Nettoyage et transformation des données

Applique des techniques systématiques pour traiter les valeurs manquantes, les valeurs aberrantes et les formats incohérents. Construit une logique de transformation qui est testable et réutilisable.

Leçon 2 • Qualité et validation des données

Implémente des contrôles automatisés de qualité des données et une validation de schéma au sein des pipelines. Présente les contrats de données comme un mécanisme de fiabilité pour les systèmes de production.

Leçon 3 • Sources de données et schémas d'ingestion

Passe en revue les sources de données structurées, semi-structurées et non structurées ainsi que les stratégies d'ingestion. Relie la disponibilité des données à la qualité du modèle en aval.

Leçon 4 • Fondamentaux du Feature Engineering

Construit des caractéristiques informatives à partir de données brutes en utilisant la connaissance du domaine et des méthodes statistiques. Démontre comment la qualité des caractéristiques influence directement la performance du modèle.

Leçon 1 • Méthodes d'apprentissage non supervisé

Applique le clustering, la réduction de dimensionnalité et l'estimation de densité aux données non labellisées. Relie les résultats non supervisés aux tâches supervisées en aval.

Leçon 2 • Évaluation et sélection de modèles

Établit des protocoles d'évaluation rigoureux utilisant la validation croisée, les ensembles de holdout et la sélection de métriques. Prévenir les fuites de données et le surapprentissage grâce à une conception expérimentale appropriée.

Leçon 3 • Machines à vecteurs de support (SVM) et noyaux

Dérive le classifieur à marge maximale et introduit les méthodes de noyau pour les frontières non linéaires. Relie la géométrie SVM aux choix pratiques d'hyperparamètres.

Leçon 4 • Fondamentaux de l'apprentissage supervisé

Couvre la régression linéaire et logistique en tant que modèles supervisés fondamentaux avec une dérivation mathématique complète. Établit le compromis biais-variance comme concept de conception central.

Leçon 1 • Débogage et profilage des réseaux de neurones

Fournit des stratégies systématiques pour diagnostiquer le sous-apprentissage, le surapprentissage et l'instabilité de l'entraînement. Introduit des outils de profilage pour identifier les goulots d'étranglement de calcul et de mémoire.

Leçon 2 • Fondamentaux des réseaux de neurones

Dérive les propagations avant et arrière à partir du calcul infinitésimal, puis implémente un réseau à partir de zéro. Ancre l'utilisation du framework dans une compréhension théorique solide.

Leçon 3 • Modèles séquentiels et Transformers

Progrès des RNN et LSTM à l'architecture Transformer et à l'auto-attention. Prépare les étudiants pour les applications de NLP et de séries temporelles dans les chapitres ultérieurs.

Leçon 4 • Réseaux de neurones convolutifs (CNN)

Construit des CNN pour la classification d'images et la détection d'objets en utilisant des architectures modernes. Démontre l'apprentissage par transfert pour réduire les besoins en données et en calcul.

Leçon 1 • Principes d'architecture des pipelines

Introduit la conception de pipelines basée sur des DAG, l'isolation des composants et la gestion des artefacts. Établit la reproductibilité et la modularité comme des standards d'ingénierie non négociables.

Leçon 2 • Outils d'orchestration de workflows

Compare et implémente des pipelines en utilisant les principaux frameworks d'orchestration. Couvre les schémas de planification, de résolution des dépendances et de reprise après échec.

Leçon 3 • Suivi des expériences et reproductibilité

Implémente un suivi systématique des expériences pour comparer les exécutions, gérer les hyperparamètres et journaliser les artefacts. Relie les pratiques de reproductibilité aux exigences réglementaires et d'audit.

Leçon 4 • Feature Stores et réutilisabilité

Conçoit des feature stores pour découpler le calcul des caractéristiques de l'entraînement et du service du modèle. Aborde la cohérence des caractéristiques en ligne et hors ligne comme un défi de production.

Leçon 1 • Déploiement en périphérie (Edge) et embarqué

Déploie des modèles optimisés sur des appareils périphériques et des plateformes mobiles avec des ressources de calcul limitées. Couvre les pipelines de conversion de modèles et les frameworks d'inférence sur l'appareil.

Leçon 2 • Construction d'API REST et gRPC

Implémente des API de modèles de qualité production en utilisant FastAPI et gRPC avec une sérialisation et une gestion d'erreurs appropriées. Couvre la gestion de version des API et la rétrocompatibilité.

Leçon 3 • Schémas d'architecture de service (Serving)

Compare les architectures d'inférence en ligne, par lots et en continu ainsi que leurs compromis latence-débit. Guide la sélection de l'architecture en fonction des exigences métier.

Leçon 4 • Optimisation des modèles pour l'inférence

Applique la quantification, l'élagage et la distillation pour réduire la taille du modèle et la latence sans perte de précision significative. Cible les scénarios d'inférence CPU et GPU.

Leçon 1 • CI/CD pour le Machine Learning

Étend les pratiques CI/CD logicielles au ML avec des portes de validation de modèles et des pipelines de déploiement automatisés. Couvre les stratégies de test spécifiques aux composants ML.

Leçon 2 • Gouvernance des modèles et pistes d'audit

Établit des fiches de modèles, le suivi de la lignée et les workflows d'approbation pour satisfaire aux exigences de gouvernance. Prépare les étudiants aux contextes de déploiement dans les secteurs réglementés.

Leçon 3 • Journalisation, traçage et observabilité

Implémente une journalisation structurée, un traçage distribué et des tableaux de bord pour une observabilité complète du système ML. Relie les données d'observabilité aux workflows d'analyse des causes racines.

Leçon 4 • Fondamentaux de la surveillance en production

Établit une surveillance pour la performance du modèle, la dérive des données et la santé du système en production. Distingue la surveillance spécifique au ML de l'observabilité logicielle standard.

Leçon 1 • Optimisation des coûts et gestion des ressources

Applique le profilage, les instances spot et l'entraînement en précision mixte pour réduire les coûts d'infrastructure ML. Introduit les principes FinOps adaptés aux charges de travail ML.

Leçon 2 • ML en temps réel avec données en continu

Intègre l'inférence ML dans des pipelines de données en continu pour une prise de décision en moins d'une seconde. Couvre le calcul d'état des caractéristiques et les garanties de traitement exactement une fois.

Leçon 3 • Infrastructure d'entraînement scalable

Conçoit des systèmes d'entraînement distribué utilisant des stratégies de parallélisme des données et de parallélisme des modèles. Aborde la surcharge de communication et la tolérance aux pannes dans l'entraînement à grande échelle.

Leçon 4 • Systèmes multi-modèles et d'ensemble

Architecture des systèmes qui coordonnent plusieurs modèles via des schémas de routage, d'empilement et de cascade. Équilibre les gains de précision face à la latence et à la complexité opérationnelle.