Formation Retrieval Augmented Generation

Leçon 1 • Composants clés et terminologie

Définit le vocabulaire essentiel, notamment corpus, chunk, embedding et magasin de vecteurs. Une terminologie précise évite toute confusion dans les chapitres techniques ultérieurs.

Leçon 2 • Ce que le RAG résout

Identifie les limites de connaissance des LLM statiques et comment la récupération y remédie. Ancre l'ensemble du cours en établissant le problème que le RAG est conçu pour résoudre.

Leçon 3 • Aperçu de l'architecture RAG de base

Représente le pipeline en trois étapes : indexation, récupération et génération. Donne aux étudiants un modèle mental qu'ils affineront tout au long du cours.

Leçon 1 • Enrichissement et étiquetage des métadonnées

Explique comment attacher la source, la date, la section et des étiquettes personnalisées à chaque chunk. Des métadonnées riches permettent une récupération filtrée et améliorent l'attribution des réponses.

Leçon 2 • Stratégies de découpage

Compare les méthodes de découpage à taille fixe, par phrase, récursif et sémantique. La qualité du chunk est le facteur contrôlable le plus important dans les performances de récupération.

Leçon 3 • Évaluation de la qualité des chunks

Présente des métriques et des méthodes d'inspection manuelle pour évaluer si les chunks sont cohérents et complets. Relie directement la qualité des chunks au rappel et à la précision de la récupération.

Leçon 4 • Nettoyage et normalisation du texte

Enseigne comment supprimer le bruit tel que les en-têtes, les pieds de page et le texte standardisé avant le découpage. Un texte propre améliore directement la qualité des embeddings et la précision de la récupération.

Leçon 1 • Sélection d'un modèle d'embedding

Guide la sélection du modèle à l'aide de scores de référence, d'adéquation au domaine, de latence et de coût. Un choix de modèle correct évite une réindexation coûteuse après le déploiement.

Leçon 2 • Recherche de similarité et métriques de distance

Explique la similarité cosinus, le produit scalaire et la distance euclidienne et quand les utiliser. Le choix de la métrique affecte la qualité du classement et doit correspondre à l'objectif d'entraînement du modèle d'embedding.

Leçon 3 • Flux de travail d'indexation et d'upsert

Couvre l'indexation par lots, les upserts incrémentaux et la suppression pour maintenir le magasin de vecteurs à jour. Des index obsolètes dégradent la qualité de la récupération dans les systèmes de production.

Leçon 4 • Fondamentaux des modèles d'embedding

Explique comment les codeurs basés sur les transformers mappent le texte en vecteurs de dimension fixe. Fournit la base théorique de toutes les techniques de récupération abordées plus tard.

Leçon 1 • Techniques de transformation de requête

Couvre la réécriture de requête, l'expansion, HyDE et la génération multi-requêtes pour améliorer le rappel. Les requêtes transformées font remonter des chunks pertinents que la requête originale aurait manqués.

Leçon 2 • Re-classement des résultats récupérés

Applique des re-classifieurs cross-encodeur et un scoring basé sur LLM pour réordonner les candidats initiaux. Le re-classement place les chunks les plus pertinents en haut de la fenêtre de contexte.

Leçon 3 • Récupération hybride et fusion

Combine les scores denses et creux à l'aide de la fusion du rang réciproque et d'un mélange pondéré. La récupération hybride surpasse systématiquement l'une ou l'autre méthode seule pour divers types de requêtes.

Leçon 4 • Récupération creuse avec BM25

Introduit le BM25 basé sur la fréquence des termes comme complément à la récupération dense. Les méthodes creuses excellent sur les requêtes de correspondance exacte et de termes rares où les modèles denses sont moins performants.

Leçon 1 • Stratégies d'injection de contexte

Compare les motifs d'insertion directe, de map-reduce et d'affinement pour insérer plusieurs chunks récupérés. Le choix de la stratégie affecte la cohérence et la consommation du budget de tokens.

Leçon 2 • Conception d'instructions pour la fidélité

Enseigne les instructions qui contraignent le modèle à répondre uniquement à partir du contexte fourni. Les contraintes de fidélité constituent la principale défense contre l'hallucination dans le RAG.

Leçon 3 • Anatomie d'un prompt RAG

Décompose les instructions système, le contexte récupéré et la requête utilisateur en zones distinctes du prompt. Comprendre la structure du prompt est un prérequis pour une optimisation systématique du prompt.

Leçon 4 • Gestion du budget de tokens

Aborde les limites de fenêtre de contexte en priorisant, tronquant et compressant le contenu récupéré. Une utilisation efficace des tokens garantit que les informations les plus pertinentes parviennent au modèle.

Leçon 1 • Débogage et analyse des causes profondes

Fournit un processus systématique pour relier les mauvaises réponses à des défaillances de la récupération, du découpage ou du prompt. L'analyse des causes profondes évite d'attribuer à tort les erreurs de génération à la mauvaise étape du pipeline.

Leçon 2 • Dimensions d'évaluation dans le RAG

Définit les quatre axes de la qualité RAG : pertinence du contexte, fidélité, pertinence de la réponse et exhaustivité. Une vue multidimensionnelle évite d'optimiser une métrique au détriment des autres.

Leçon 3 • Cadres d'évaluation RAG de bout en bout

Présente RAGAS et des frameworks automatisés similaires qui notent les pipelines RAG complets. Les frameworks automatisés permettent une évaluation continue à mesure que le système évolue.

Leçon 4 • Métriques d'évaluation de la récupération

Couvre la précision, le rappel, le MRR et le NDCG pour mesurer la qualité de la récupération par rapport à des ensembles de données étiquetés. Les métriques de récupération isolent les problèmes d'indexation et de recherche des défaillances de génération.

Leçon 1 • Récupération itérative et multi-étapes

Enchaîne plusieurs appels de récupération où chaque étape affine ou développe la requête en fonction des résultats précédents. La récupération multi-étapes gère les questions complexes nécessitant des preuves provenant de plusieurs sources.

Leçon 2 • Récupération améliorée par graphe

Augmente la récupération vectorielle avec un parcours de graphe de connaissances pour capturer les relations entre entités. Le contexte de graphe améliore les réponses aux questions nécessitant un raisonnement multi-sauts.

Leçon 3 • RAG agentique avec utilisation d'outils

Intègre la récupération comme un outil parmi d'autres dans un agent LLM qui planifie et exécute des workflows multi-actions. Le RAG agentique permet une prise de décision dynamique au-delà des pipelines de récupération statiques.

Leçon 4 • RAG multimodal

Étend le RAG pour récupérer et raisonner sur des images, des tableaux et des documents multimédia. La récupération multimodale débloque des cas d'usage où les informations critiques ne sont pas textuelles.

Leçon 1 • Observabilité et surveillance

Instrumente le pipeline avec du tracing, des tableaux de bord de latence et des moniteurs de qualité de récupération. L'observabilité permet une détection et une résolution rapides de la dégradation en production.

Leçon 2 • Amélioration continue en production

Établit des boucles de rétroaction utilisant les signaux utilisateurs, les tests en miroir et les expériences A/B pour améliorer le système en direct. L'amélioration continue empêche la dégradation de la qualité à mesure que les données et les modèles d'utilisation évoluent.

Leçon 3 • Sécurité et contrôle d'accès

Met en œuvre des autorisations au niveau document, la désinfection des requêtes et le filtrage des sorties dans le pipeline RAG. Les contrôles de sécurité empêchent l'exposition non autorisée des données via la récupération.

Leçon 4 • Passage à l'échelle et réglage des performances

Aborde la mise à l'échelle horizontale de la récupération, les stratégies de mise en cache et le traitement par lots pour atteindre les objectifs de débit. Le réglage des performances garantit une latence acceptable sous les volumes de requêtes de production.