Formation IA Générative

Leçon 1 • Ce qui rend l’IA générative

Distingue les modèles génératifs des modèles discriminatifs et explique l’objectif principal d’apprendre les distributions de données. Positionne l’IA générative comme un paradigme distinct.

Leçon 2 • Représentation des données et prétraitement

Explique comment le texte, les images et l’audio sont encodés pour les réseaux de neurones. Une bonne préparation des données affecte directement la qualité des modèles génératifs.

Leçon 3 • Fondamentaux de l’IA et de l’apprentissage automatique

Couvre la hiérarchie de l’IA à l’apprentissage profond et explique en quoi l’apprentissage supervisé, non supervisé et par renforcement diffèrent. Établit le vocabulaire utilisé tout au long du cours.

Leçon 4 • Fondamentaux des réseaux de neurones

Introduit les perceptrons, les fonctions d’activation, la rétropropagation et la descente de gradient. Fournit l’intuition mathématique nécessaire à la compréhension des architectures génératives.

Leçon 1 • Comparaison et sélection d’architectures

Fournit un framework structuré pour évaluer les architectures selon la qualité, la diversité, la vitesse et la contrôlabilité. Prépare les étudiants à prendre des décisions de conception éclairées.

Leçon 2 • Réseaux antagonistes génératifs

Couvre le jeu générateur-discriminateur, la dynamique d’entraînement et les modes de défaillance courants comme l’effondrement des modes. Bâtit l’intuition pour l’entraînement adversarial utilisé en synthèse d’images.

Leçon 3 • Autoencodeurs variationnels

Explique la structure encodeur-décodeur, l’astuce de reparamétrisation et la perte ELBO. Relie la théorie des VAE aux tâches pratiques de génération d’images et de données.

Leçon 4 • Modèles de diffusion

Introduit les processus de bruitage avant et de débruitage inverse, l’appariement de scores et les DDPM. Explique pourquoi les modèles de diffusion atteignent une qualité d’image de pointe.

Leçon 1 • Tokenisation et conception du vocabulaire

Explique le codage par paires d’octets, WordPiece et SentencePiece et leur effet sur les performances du modèle. Les choix de tokenisation affectent directement la qualité de la génération multilingue et de code.

Leçon 2 • Lois d’échelle et capacités émergentes

Examine comment la taille du modèle, les données et les ressources de calcul interagissent pour produire des comportements prévisibles et émergents. Aide les étudiants à raisonner sur les seuils de capacité.

Leçon 3 • Modes de défaillance et limites des LLM

Analyse les hallucinations, la complaisance, les limites de la fenêtre de contexte et les coupures de connaissance. Comprendre les défaillances est essentiel avant d’appliquer les LLM en production.

Leçon 4 • Architecture Transformer expliquée

Décompose l’auto-attention, l’attention multi-têtes, l’encodage positionnel et les couches feed-forward. Cette architecture sous-tend chaque grand LLM abordé plus tard.

Leçon 1 • Stratégies avancées de prompting

Explore les frameworks de pensée en arborescence, ReAct et méta-prompting pour la résolution de problèmes en plusieurs étapes. Étend le prompting de base aux flux de travail agentiques et itératifs.

Leçon 2 • Techniques de prompts pour images et multimodaux

Couvre l’anatomie des prompts texte-à-image, les prompts négatifs, les jetons de style et les entrées des modèles vision-langage. Étend les compétences de prompting au-delà des modèles textuels.

Leçon 3 • Évaluation et test des prompts

Introduit les tests systématiques de prompts, les suites de régression et les métriques d’évaluation automatisées. Garantit que la qualité des prompts est mesurable et reproductible.

Leçon 4 • Prompting few-shot et chaîne de pensée

Couvre l’apprentissage en contexte avec exemples et l’extraction de raisonnement pas à pas. Ces techniques améliorent significativement la précision sur les tâches de raisonnement complexes.

Leçon 1 • Réglage par instruction et alignement

Couvre le réglage supervisé par instruction, le RLHF et le DPO pour aligner les sorties du modèle sur les préférences humaines. Directement pertinent pour construire des assistants IA utiles et sûrs.

Leçon 2 • Stratégies d’adaptation au domaine

Explique le préentraînement continu, l’extension de vocabulaire spécifique au domaine et les ratios de mélange de données. Prépare les étudiants à adapter des modèles généraux à des domaines spécialisés.

Leçon 3 • Réglage fin pour la génération d’images

Couvre DreamBooth, l’inversion textuelle et LoRA pour les modèles de diffusion afin de personnaliser la génération d’images. Étend les compétences de réglage fin aux modèles génératifs visuels.

Leçon 4 • Fondamentaux du réglage fin complet

Couvre la préparation du jeu de données spécifique à la tâche, la planification du taux d’apprentissage et l’atténuation de l’oubli catastrophique pour les mises à jour complètes du modèle. Établit la référence avant les méthodes efficaces en paramètres.

Leçon 1 • Construction de pipelines RAG

Explique le découpage en morceaux, les stratégies de récupération, l’injection de contexte et la génération de réponses. Relie les composants de récupération en un système de génération ancré de bout en bout.

Leçon 2 • Systèmes multi-agents et orchestration

Couvre les rôles des agents, les protocoles de communication et les frameworks d’orchestration pour coordonner plusieurs agents. Permet aux étudiants de construire des flux de travail automatisés complexes.

Leçon 3 • Bases de données vectorielles et plongements

Couvre les plongements vectoriels denses, les algorithmes de recherche de similarité et l’indexation des bases de données vectorielles. Ces composants forment l’épine dorsale de la récupération des systèmes RAG.

Leçon 4 • Fondamentaux des agents IA

Introduit la boucle agentique, l’utilisation d’outils, les types de mémoire et les stratégies de planification. Établit le modèle conceptuel pour les systèmes IA autonomes.

Leçon 1 • Conception de l’évaluation humaine

Explique la conception de tâches d’annotation, l’accord inter-annotateurs et les bonnes pratiques de crowdsourcing. L’évaluation humaine reste la référence pour une évaluation nuancée de la qualité.

Leçon 2 • Évaluation d’images et multimodale

Couvre le FID, le score CLIP et les études de préférence humaine pour évaluer les sorties d’images et multimodales. Étend les compétences d’évaluation au-delà des systèmes textuels.

Leçon 3 • Évaluation de la sécurité et des biais

Introduit le red-teaming, les benchmarks de toxicité et les audits d’équité pour les modèles génératifs. Garantit que l’évaluation couvre les préjudices, pas seulement la qualité.

Leçon 4 • Métriques automatiques pour la génération de texte

Couvre BLEU, ROUGE, BERTScore et la perplexité et explique quand chaque métrique est appropriée. Fournit une boîte à outils pour la mesure automatisée de la qualité.

Leçon 1 • Optimisation de modèle pour l'inférence

Couvre la quantification, l'élagage, la distillation et le décodage spéculatif pour réduire la latence et les coûts. L'optimisation est essentielle avant tout déploiement en production.

Leçon 2 • MLOps pour l'IA générative

Couvre le versionnement, les pipelines CI/CD, le suivi des expériences et les registres de modèles adaptés aux charges de travail génératives. Opérationnalise le cycle de vie complet du modèle.

Leçon 3 • Garde-fous et filtrage des sorties

Couvre la validation des entrées, les classifieurs de sorties, les couches de modération de contenu et les stratégies de repli. Les garde-fous empêchent les sorties nuisibles ou hors politique dans les systèmes en direct.

Leçon 4 • Surveillance et observabilité

Introduit le suivi de la latence, la détection de dérive des sorties, la surveillance des coûts et les pipelines d'alerte. Une observabilité continue garantit la fiabilité des systèmes en production.