Formation Analyse et Déploiement d'Architectures LLM

Leçon 1 • Fondamentaux de l'architecture des transformeurs

Aborde les mécanismes d'attention, les structures encodeur-décodeur et le codage positionnel. Établit la ligne de base architecturale nécessaire à toute analyse ultérieure des LLM.

Leçon 2 • Taxonomie des LLM et familles de modèles

Passe en revue les familles de modèles encodeur-seul, décodeur-seul et encodeur-décodeur, ainsi que leurs cas d'usage canoniques. Permet une sélection éclairée du modèle pour des scénarios de déploiement spécifiques.

Leçon 3 • Objectifs de pré-entraînement et données

Explique le masquage linguistique, le modelage causal du langage et la prédiction de phrase suivante. Relie le choix de l'objectif de pré-entraînement aux capacités émergentes du modèle.

Leçon 4 • Tokenisation et conception du vocabulaire

Examine les schémas de tokenisation BPE, WordPiece et SentencePiece. Relie les choix de vocabulaire à la capacité du modèle et aux performances sur les tâches en aval.

Leçon 1 • Protocoles d'évaluation humaine

Enseigne la conception de schémas d'annotation, l'accord inter-annotateurs et les méthodes de classement par préférence. Relie le jugement humain aux signaux de qualité de référence non disponibles dans les métriques automatisées.

Leçon 2 • Évaluation de la sécurité et des biais

Examine les classifieurs de toxicité, les benchmarks de stéréotypes et les méthodologies de red-teaming. Prépare les praticiens à identifier et documenter les risques du modèle avant le déploiement.

Leçon 3 • Détection des hallucinations et factualité

Analyse les sources d'hallucination et les méthodes de score de factualité utilisant des modèles de recherche et d'implication. Informe directement les décisions de déploiement lorsque la précision est critique.

Leçon 4 • Automatisation du pipeline d'évaluation

Construit des harnais d'évaluation automatisés utilisant LLM-as-judge et les tests de régression. Permet une surveillance continue de la qualité entre les versions du modèle en production.

Leçon 1 • Alignement constitutionnel et basé sur des règles

Couvre les principes de l'IA constitutionnelle, les boucles de critique et révision, et le shaping de récompenses basé sur des règles. Fournit des techniques d'alignement évolutives qui réduisent la dépendance aux annotateurs humains.

Leçon 2 • Fondamentaux du fine-tuning supervisé

Couvre le formatage des ensembles de données, la planification du taux d'apprentissage et l'atténuation de l'oubli catastrophique. Établit le flux de travail d'adaptation de base avant d'introduire des méthodes d'alignement avancées.

Leçon 3 • Apprentissage par renforcement à partir de feedback humain

Explique l'entraînement du modèle de récompense, l'optimisation PPO et les contraintes de divergence KL dans les pipelines RLHF. Relie les objectifs d'alignement aux améliorations mesurables de l'utilité et de la sécurité.

Leçon 4 • Méthodes de fine-tuning efficaces en paramètres

Enseigne LoRA, QLoRA, le prefix tuning et les couches d'adaptation comme alternatives économes en calcul au fine-tuning complet. Réduit les besoins en matériel tout en préservant la qualité de l'adaptation.

Leçon 1 • Pipelines de distillation des connaissances

Enseigne l'entraînement enseignant-élève, la distillation des couches intermédiaires et les objectifs de distillation spécifiques aux tâches. Produit des modèles élèves compacts qui conservent la précision du niveau enseignant.

Leçon 2 • Méthodes d'élagage et de parcimonie

Examine l'élagage structuré et non structuré, les critères basés sur la magnitude et le gradient, ainsi que les noyaux d'inférence parcimonieux. Réduit le nombre de paramètres tout en préservant les performances des tâches.

Leçon 3 • Décodage spéculatif et batch

Explique le décodage spéculatif avec des modèles de brouillon, le batch continu et l'attention paginée pour l'optimisation du débit. Réduit la latence par token sans dégrader la qualité de sortie.

Leçon 4 • Optimisation adaptée au matériel

Couvre la hiérarchie mémoire des GPU, le parallélisme tensoriel pour l'inférence et les techniques de fusion de noyaux. Aligne les choix de compression avec les contraintes du matériel cible pour une efficacité maximale.

Leçon 1 • Stratégies de fragmentation et d'indexation

Examine les méthodes de fragmentation à taille fixe, sémantique et hiérarchique, et leur impact sur la précision de la recherche. Relie la structure du document à la qualité de la récupération dans la génération en aval.

Leçon 2 • Évaluation et itération RAG

Applique RAGAS et des métriques au niveau des composants pour mesurer la qualité de la récupération et de la génération indépendamment. Permet un diagnostic systématique et l'amélioration des défaillances du pipeline RAG.

Leçon 3 • Bases de données vectorielles et modèles d'embedding

Couvre la recherche dense avec des embeddings bi-encodeur, l'indexation approximative du plus proche voisin et la sélection du magasin de vecteurs. Établit l'épine dorsale de la récupération pour toutes les architectures RAG.

Leçon 4 • Gestion de la fenêtre de contexte

Couvre la compression de contexte, l'atténuation du phénomène perdu-au-milieu et les stratégies de sélection dynamique de contexte. Assure que le contenu récupéré est positionné pour une attention maximale du LLM.

Leçon 1 • Parallélisme de données et synchronisation des gradients

Couvre DDP, l'accumulation de gradients et les schémas de communication all-reduce pour l'entraînement multi-GPU. Fournit la stratégie de parallélisme fondamentale avant d'introduire les techniques au niveau du modèle.

Leçon 2 • Parallélisme 3D et stratégies hybrides

Combine le parallélisme de données, tensoriel et de pipeline en configurations 3D pour des modèles à mille milliards de paramètres. Fournit un cadre de décision pour sélectionner les combinaisons de parallélisme en fonction de la topologie du matériel.

Leçon 3 • Parallélisme tensoriel et de séquence

Explique la division tensorielle en colonnes et en lignes, le parallélisme de séquence pour les longs contextes et la réduction de la mémoire d'activation. Permet l'entraînement de modèles dépassant les limites de mémoire d'un seul GPU.

Leçon 4 • Parallélisme de pipeline et micro-batch

Enseigne les ordonnancements de pipeline GPipe et 1F1B, la réduction de la surcharge de bulle et la communication inter-étages. Étend la profondeur d'entraînement entre les nœuds tout en maintenant l'utilisation du matériel.

Leçon 1 • Observabilité et ingénierie de la fiabilité

Couvre le suivi des percentiles de latence, l'alerte sur les taux d'erreur et l'ingénierie du chaos pour les systèmes de service LLM. Assure la fiabilité en production grâce à une surveillance proactive et des tests de défaillance.

Leçon 2 • Service multi-modèles et multi-locataires

Examine le multiplexage de modèles, l'isolation des locataires et l'application des quotas de ressources dans les clusters d'inférence partagés. Permet un service rentable de plusieurs modèles et groupes d'utilisateurs.

Leçon 3 • Auto-scaling et équilibrage de charge

Couvre l'auto-scaling horizontal des pods, l'ordonnancement conscient des GPU et les stratégies de routage des requêtes pour les charges de travail LLM. Maintient les SLA de débit sous un trafic variable sans sur-provisionnement.

Leçon 4 • Mise en cache et réutilisation de préfixes

Enseigne le partage de cache KV, la mise en cache des préfixes de prompt et les couches de mise en cache sémantique pour réduire le calcul redondant. Réduit significativement le coût par requête pour les charges de travail répétitives.

Leçon 1 • Orchestration multi-agents

Couvre les schémas superviseur-travailleur, la communication agent-agent en pair à pair et la résolution de conflits dans les systèmes multi-agents. Étend l'accomplissement des tâches grâce à une collaboration coordonnée entre agents.

Leçon 2 • Architectures d'agents et boucles de raisonnement

Couvre les boucles d'agents ReAct, planifier-et-exécuter et basées sur la réflexion, ainsi que leurs modes de défaillance. Fournit la base structurelle pour la construction d'agents LLM orientés vers un objectif.

Leçon 3 • Utilisation d'outils et appel de fonctions

Enseigne l'appel de fonctions structuré, la conception de schémas d'outils et la gestion des erreurs pour l'intégration d'API externes. Étend les capacités des LLM au-delà de la génération de texte vers l'exécution d'actions dans le monde réel.

Leçon 4 • Systèmes de mémoire pour agents

Examine les architectures de mémoire en contexte, épisodique, sémantique et procédurale pour les tâches à long horizon. Permet aux agents de maintenir un état cohérent tout au long d'interactions multi-étapes étendues.