Formation en IA Générative

Leçon 1 • Ce qui rend l'IA Générative

Distingue les modèles génératifs des modèles discriminatifs et explique l'objectif central d'apprentissage des distributions de données. Positionne l'IA générative comme un paradigme distinct.

Leçon 2 • Représentation et Prétraitement des Données

Explique comment le texte, les images et l'audio sont encodés pour les réseaux de neurones. Une préparation adéquate des données affecte directement la qualité du modèle génératif.

Leçon 3 • Fondamentaux de l'IA et de l'Apprentissage Automatique

Couvre la hiérarchie de l'IA jusqu'à l'apprentissage profond et comment l'apprentissage supervisé, non supervisé et par renforcement diffèrent. Établit le vocabulaire utilisé tout au long du cours.

Leçon 4 • Fondamentaux des Réseaux de Neurones

Introduit les perceptrons, les fonctions d'activation, la rétropropagation et la descente de gradient. Fournit l'intuition mathématique nécessaire à la compréhension des architectures génératives.

Leçon 1 • Comparaison et Sélection des Architectures

Fournit un cadre structuré pour évaluer les architectures selon la qualité, la diversité, la vitesse et la contrôlabilité. Prépare les étudiants à prendre des décisions de conception éclairées.

Leçon 2 • Réseaux Antagonistes Génératifs

Couvre le jeu générateur-discriminateur, la dynamique d'entraînement et les modes d'échec courants comme l'effondrement des modes. Construit l'intuition pour l'entraînement antagoniste utilisé en synthèse d'images.

Leçon 3 • Autoencodeurs Variationnels

Explique la structure encodeur-décodeur, l'astuce de reparamétrisation et la perte ELBO. Relie la théorie des VAE aux tâches pratiques de génération d'images et de données.

Leçon 4 • Modèles de Diffusion

Introduit les processus de bruitage direct et de débruitage inverse, le score matching et le DDPM. Explique pourquoi les modèles de diffusion atteignent une qualité d'image de pointe.

Leçon 1 • Tokenization et Conception du Vocabulaire

Explique le byte-pair encoding, WordPiece et SentencePiece et leur effet sur les performances du modèle. Les choix de tokenization affectent directement la qualité de la génération multilingue et de code.

Leçon 2 • Lois d'Échelle et Capacités Émergentes

Examine comment la taille du modèle, les données et le calcul interagissent pour produire des comportements prévisibles et émergents. Aide les étudiants à raisonner sur les seuils de capacité.

Leçon 3 • Modes d'Échec et Limitations des LLM

Analyse les hallucinations, la sycophantie, les limites de fenêtre de contexte et les coupures de connaissances. Comprendre les échecs est essentiel avant d'appliquer les LLM en production.

Leçon 4 • Architecture du Transformeur Expliquée

Décompose l'auto-attention, l'attention multi-têtes, l'encodage positionnel et les couches feed-forward. Cette architecture sous-tend chaque grand LLM abordé plus tard.

Leçon 1 • Stratégies Avancées de Prompting

Explore les frameworks tree-of-thought, ReAct et meta-prompting pour la résolution de problèmes en plusieurs étapes. Étend le prompting de base aux workflows agentiques et itératifs.

Leçon 2 • Techniques de Prompt pour Images et Multimodal

Couvre l'anatomie des prompts texte-vers-image, les prompts négatifs, les jetons de style et les entrées des modèles vision-langage. Étend les compétences de prompting au-delà des modèles textuels uniquement.

Leçon 3 • Évaluation et Test des Prompts

Introduit le test systématique des prompts, les suites de régression et les métriques d'évaluation automatisées. Garantit que la qualité des prompts est mesurable et reproductible.

Leçon 4 • Prompting Few-Shot et Chaîne de Pensée

Couvre l'apprentissage en contexte avec des exemples et l'extraction de raisonnement étape par étape. Ces techniques améliorent considérablement la précision sur des tâches de raisonnement complexes.

Leçon 1 • Instruction Tuning et Alignement

Couvre l'instruction tuning supervisé, le RLHF et le DPO pour aligner les sorties du modèle avec les préférences humaines. Directement pertinent pour la construction d'assistants IA sûrs et utiles.

Leçon 2 • Stratégies d'Adaptation au Domaine

Explique le pré-entraînement continu, l'extension du vocabulaire spécifique au domaine et les ratios de mélange de données. Prépare les étudiants à adapter des modèles généraux à des domaines spécialisés.

Leçon 3 • Fine-Tuning pour la Génération d'Images

Couvre DreamBooth, l'inversion textuelle et le LoRA pour les modèles de diffusion afin de personnaliser la génération d'images. Étend les compétences de fine-tuning aux modèles génératifs visuels.

Leçon 4 • Fondamentaux du Fine-Tuning Complet

Couvre la préparation des ensembles de données, la planification du taux d'apprentissage et l'atténuation de l'oubli catastrophique pour les mises à jour complètes du modèle. Établit la base de référence avant les méthodes efficaces en paramètres.

Leçon 1 • Construction de Pipelines RAG

Explique le découpage en morceaux de documents, les stratégies de récupération, l'injection de contexte et la génération de réponses. Relie les composants de récupération en un système de génération ancré de bout en bout.

Leçon 2 • Systèmes Multi-Agents et Orchestration

Couvre les rôles des agents, les protocoles de communication et les frameworks d'orchestration pour coordonner plusieurs agents. Permet aux étudiants de construire des workflows automatisés complexes.

Leçon 3 • Bases de Données Vectorielles et Plongements

Couvre les plongements vectoriels denses, les algorithmes de recherche de similarité et l'indexation des bases de données vectorielles. Ces composants forment l'épine dorsale de la récupération des systèmes RAG.

Leçon 4 • Fondamentaux des Agents IA

Introduit la boucle d'agent, l'utilisation d'outils, les types de mémoire et les stratégies de planification. Établit le modèle conceptuel pour les systèmes IA autonomes.

Leçon 1 • Conception de l'Évaluation Humaine

Explique la conception de tâches d'annotation, l'accord inter-annotateurs et les meilleures pratiques en matière de crowdsourcing. L'évaluation humaine reste la référence absolue pour une évaluation nuancée de la qualité.

Leçon 2 • Évaluation d'Images et Multimodale

Couvre le FID, le score CLIP et les études de préférence humaine pour évaluer les sorties d'images et multimodales. Étend les compétences d'évaluation au-delà des systèmes textuels uniquement.

Leçon 3 • Évaluation de la Sécurité et des Biais

Introduit les méthodologies de red-teaming, les benchmarks de toxicité et les audits d'équité pour les modèles génératifs. Garantit que l'évaluation couvre les préjudices, pas seulement la qualité.

Leçon 4 • Métriques Automatiques pour la Génération de Texte

Couvre le BLEU, le ROUGE, le BERTScore et la perplexité et explique quand chaque métrique est appropriée. Fournit une boîte à outils pour la mesure automatisée de la qualité.

Leçon 1 • Optimisation de Modèle pour l'Inférence

Couvre la quantification, l'élagage, la distillation et le décodage spéculatif pour réduire la latence et les coûts. L'optimisation est essentielle avant tout déploiement en production.

Leçon 2 • MLOps pour l'IA Générative

Couvre le versioning, les pipelines CI/CD, le suivi des expériences et les registres de modèles adaptés pour les charges de travail génératives. Opérationnalise le cycle de vie complet du modèle.

Leçon 3 • Garde-fous et Filtrage des Sorties

Couvre la validation des entrées, les classifieurs de sortie, les couches de modération de contenu et les stratégies de repli. Les garde-fous empêchent les sorties nuisibles ou non conformes dans les systèmes en direct.

Leçon 4 • Surveillance et Observabilité

Introduit le suivi de la latence, la détection de dérive des sorties, la surveillance des coûts et les pipelines d'alerte. Une observabilité continue garantit la fiabilité des systèmes de production.