Formation Retrieval Augmented Generation

Leçon 1 • Composants clés et terminologie

Définit le vocabulaire essentiel, notamment corpus, chunk, embedding et vector store. Une terminologie précise évite la confusion dans les chapitres techniques ultérieurs.

Leçon 2 • Ce que la RAG résout

Identifie les limitations de connaissances des LLM statiques et comment la récupération y remédie. Ancre tout le cours en établissant le problème que la RAG est conçue pour résoudre.

Leçon 3 • Aperçu de l'architecture RAG principale

Cartographie le pipeline en trois étapes : indexation, récupération et génération. Donne aux étudiants un modèle mental qu'ils affineront tout au long du cours.

Leçon 1 • Enrichissement et étiquetage des métadonnées

Explique l'attachement de la source, de la date, de la section et des balises personnalisées à chaque chunk. Des métadonnées riches permettent une récupération filtrée et améliorent l'attribution des réponses.

Leçon 2 • Stratégies de découpage

Compare les méthodes de découpage à taille fixe, basé sur les phrases, récursif et sémantique. La qualité des chunks est le seul facteur contrôlable le plus important dans les performances de récupération.

Leçon 3 • Évaluation de la qualité des chunks

Présente des métriques et des méthodes d'inspection manuelle pour évaluer si les chunks sont cohérents et complets. Relie directement la qualité des chunks au rappel et à la précision de la récupération.

Leçon 4 • Nettoyage et normalisation du texte

Enseigne la suppression du bruit tel que les en-têtes, pieds de page et texte générique avant le découpage. Un texte propre améliore directement la qualité des embeddings et la précision de la récupération.

Leçon 1 • Sélection d'un modèle d'embedding

Guide la sélection du modèle à l'aide de scores de référence, de l'adéquation au domaine, de la latence et du coût. Un choix de modèle correct évite une ré-indexation coûteuse après le déploiement.

Leçon 2 • Recherche de similarité et métriques de distance

Explique la similarité cosinus, le produit scalaire et la distance euclidienne et quand les utiliser. Le choix de la métrique affecte la qualité du classement et doit correspondre à l'objectif d'entraînement du modèle d'embedding.

Leçon 3 • Indexation et flux de travail d'upsert

Couvre l'indexation par lots, les upserts incrémentaux et la suppression pour maintenir le vector store à jour. Les index obsolètes dégradent la qualité de la récupération dans les systèmes de production.

Leçon 4 • Fondamentaux des modèles d'embedding

Explique comment les encodeurs basés sur les transformers mappent le texte en vecteurs de dimension fixe. Fournit la base théorique pour toutes les techniques de récupération abordées ultérieurement.

Leçon 1 • Techniques de transformation de requête

Couvre la réécriture de requête, l'expansion, HyDE et la génération multi-requêtes pour améliorer le rappel. Les requêtes transformées font remonter des chunks pertinents que la requête originale manquerait.

Leçon 2 • Reclassement des résultats récupérés

Applique des re-rankers cross-encodeur et un scoring basé sur LLM pour réordonner les candidats initiaux. Le reclassement place les chunks les plus pertinents en haut de la fenêtre de contexte.

Leçon 3 • Récupération hybride et fusion

Combine les scores denses et sparse en utilisant la fusion par rang réciproque et le mélange pondéré. La récupération hybride surpasse systématiquement l'une ou l'autre méthode seule pour divers types de requêtes.

Leçon 4 • Récupération sparse avec BM25

Présente le BM25 basé sur la fréquence des termes comme complément à la récupération dense. Les méthodes sparse excellent sur les requêtes de correspondance exacte et de termes rares où les modèles denses sont moins performants.

Leçon 1 • Stratégies d'injection de contexte

Compare les motifs stuffing, map-reduce et refine pour insérer plusieurs chunks récupérés. Le choix de la stratégie affecte la cohérence et la consommation du budget de tokens.

Leçon 2 • Conception d'instructions pour la fidélité

Enseigne des instructions qui contraignent le modèle à répondre uniquement à partir du contexte fourni. Les contraintes de fidélité sont la principale défense contre l'hallucination dans la RAG.

Leçon 3 • Anatomie d'un prompt RAG

Décompose les instructions système, le contexte récupéré et la requête utilisateur en zones de prompt distinctes. Comprendre la structure du prompt est un prérequis pour une optimisation systématique du prompt.

Leçon 4 • Gestion du budget de tokens

Aborde les limites de la fenêtre de contexte en priorisant, tronquant et compressant le contenu récupéré. Une utilisation efficace des tokens garantit que les informations les plus pertinentes atteignent le modèle.

Leçon 1 • Débogage et analyse des causes racines

Fournit un processus systématique pour tracer les mauvaises réponses jusqu'à des défaillances de récupération, de découpage ou de prompt. L'analyse des causes racines empêche d'attribuer les erreurs de génération à la mauvaise étape du pipeline.

Leçon 2 • Dimensions d'évaluation dans la RAG

Définit les quatre axes de la qualité RAG : pertinence du contexte, fidélité, pertinence de la réponse et exhaustivité. Une vue multidimensionnelle empêche d'optimiser une métrique au détriment des autres.

Leçon 3 • Cadres d'évaluation RAG de bout en bout

Présente RAGAS et des cadres automatisés similaires qui notent les pipelines RAG complets. Les cadres automatisés permettent une évaluation continue à mesure que le système évolue.

Leçon 4 • Métriques d'évaluation de la récupération

Couvre la précision, le rappel, le MRR et le NDCG pour mesurer la qualité de la récupération par rapport à des ensembles de données étiquetés. Les métriques de récupération isolent les problèmes d'indexation et de recherche des défaillances de génération.

Leçon 1 • Récupération itérative et multi-étapes

Chaîne plusieurs appels de récupération où chaque étape affine ou élargit la requête en fonction des résultats précédents. La récupération multi-étapes gère les questions complexes nécessitant des preuves provenant de plusieurs sources.

Leçon 2 • Récupération améliorée par graphe

Augmente la récupération vectorielle avec la traversée de graphe de connaissances pour capturer les relations entre entités. Le contexte de graphe améliore les réponses aux questions nécessitant un raisonnement multi-sauts.

Leçon 3 • RAG agentique avec utilisation d'outils

Intègre la récupération comme un outil parmi d'autres dans un agent LLM qui planifie et exécute des flux de travail multi-actions. La RAG agentique permet une prise de décision dynamique au-delà des pipelines de récupération statiques.

Leçon 4 • RAG multimodale

Étend la RAG pour récupérer et raisonner sur des images, des tableaux et des documents multimédia mixtes. La récupération multimodale débloque des cas d'usage où les informations critiques ne sont pas textuelles.

Leçon 1 • Observabilité et surveillance

Instrumente le pipeline avec du tracing, des tableaux de bord de latence et des moniteurs de qualité de récupération. L'observabilité permet la détection et la résolution rapides de la dégradation de la production.

Leçon 2 • Amélioration continue en production

Établit des boucles de rétroaction utilisant les signaux utilisateurs, les tests en shadow et les expériences A/B pour améliorer le système en production. L'amélioration continue empêche la dégradation de la qualité à mesure que les données et les modèles d'utilisation évoluent.

Leçon 3 • Sécurité et contrôle d'accès

Implémente les permissions au niveau des documents, l'assainissement des requêtes et le filtrage des sorties dans le pipeline RAG. Les contrôles de sécurité empêchent l'exposition non autorisée des données via la récupération.

Leçon 4 • Passage à l'échelle et réglage des performances

Aborde le passage à l'échelle horizontal de la récupération, les stratégies de mise en cache et le traitement par lots pour atteindre les objectifs de débit. Le réglage des performances garantit une latence acceptable sous les volumes de requêtes de production.