Curso de Retrieval Augmented Generation

Clase 1 • Componentes clave y terminología

Define el vocabulario esencial, incluyendo corpus, fragmento, incrustación y base de datos vectorial. La terminología precisa evita confusiones en los capítulos técnicos posteriores.

Clase 2 • Lo que resuelve RAG

Identifica las limitaciones de conocimiento de los LLM estáticos y cómo la recuperación las aborda. Ancla todo el curso al establecer el problema que RAG está diseñado para resolver.

Clase 3 • Descripción general de la arquitectura central de RAG

Mapea el pipeline de tres etapas: indexación, recuperación y generación. Proporciona a los estudiantes un modelo mental que refinarán a lo largo del curso.

Clase 1 • Enriquecimiento de metadatos y etiquetado

Explica cómo adjuntar etiquetas de fuente, fecha, sección y personalizadas a cada fragmento. Los metadatos enriquecidos permiten una recuperación filtrada y mejoran la atribución de respuestas.

Clase 2 • Estrategias de fragmentación

Compara los métodos de fragmentación de tamaño fijo, basada en oraciones, recursiva y semántica. La calidad de los fragmentos es el factor controlable más importante en el rendimiento de la recuperación.

Clase 3 • Evaluación de la calidad de los fragmentos

Introduce métricas y métodos de inspección manual para evaluar si los fragmentos son coherentes y completos. Conecta directamente la calidad de los fragmentos con la exhaustividad y precisión de la recuperación.

Clase 4 • Limpieza y normalización de texto

Enseña la eliminación de ruido como encabezados, pies de página y texto repetitivo antes de la fragmentación. Un texto limpio mejora directamente la calidad de las incrustaciones y la precisión de la recuperación.

Clase 1 • Selección de un modelo de incrustación

Guía la selección del modelo utilizando puntajes de referencia, ajuste al dominio, latencia y costo. La elección correcta del modelo evita costosas reindexaciones después del despliegue.

Clase 2 • Búsqueda por similitud y métricas de distancia

Explica la similitud del coseno, el producto escalar y la distancia euclidiana, y cuándo usar cada una. La elección de la métrica afecta la calidad del ranking y debe coincidir con el objetivo de entrenamiento del modelo de incrustación.

Clase 3 • Flujos de trabajo de indexación y actualización (upsert)

Cubre la indexación por lotes, las actualizaciones incrementales y la eliminación para mantener actualizada la base de datos vectorial. Los índices obsoletos degradan la calidad de la recuperación en sistemas en producción.

Clase 4 • Fundamentos del modelo de incrustación

Explica cómo los codificadores basados en Transformers mapean texto a vectores de dimensión fija. Proporciona la base teórica para todas las técnicas de recuperación que se tratan más adelante.

Clase 1 • Técnicas de transformación de consultas

Cubre la reescritura de consultas, expansión, HyDE y generación de múltiples consultas para mejorar la exhaustividad. Las consultas transformadas hacen emerger fragmentos relevantes que la consulta original pasaría por alto.

Clase 2 • Reordenamiento de resultados recuperados

Aplica reordenadores basados en cross-encoders y puntuación basada en LLM para reordenar los candidatos iniciales. El reordenamiento coloca los fragmentos más relevantes al principio de la ventana de contexto.

Clase 3 • Recuperación híbrida y fusión

Combina puntajes densos y dispersos utilizando la fusión de rango recíproco y la mezcla ponderada. La recuperación híbrida supera consistentemente a cualquiera de los métodos por sí solo en diversos tipos de consultas.

Clase 4 • Recuperación dispersa con BM25

Introduce BM25, basado en la frecuencia de términos, como complemento a la recuperación densa. Los métodos dispersos se destacan en consultas de coincidencia exacta y términos raros donde los modelos densos tienen un rendimiento inferior.

Clase 1 • Estrategias de inyección de contexto

Compara los patrones de relleno, map-reduce y refinamiento para insertar múltiples fragmentos recuperados. La elección de la estrategia afecta la coherencia y el consumo del presupuesto de tokens.

Clase 2 • Diseño de instrucciones para la fidelidad

Enseña instrucciones que restringen al modelo a responder solo a partir del contexto proporcionado. Las restricciones de fidelidad son la principal defensa contra la alucinación en RAG.

Clase 3 • Anatomía de un prompt RAG

Desglosa las instrucciones del sistema, el contexto recuperado y la consulta del usuario en zonas de prompt diferenciadas. Comprender la estructura del prompt es un prerrequisito para la optimización sistemática del mismo.

Clase 4 • Gestión del presupuesto de tokens

Aborda los límites de la ventana de contexto mediante la priorización, el truncamiento y la compresión del contenido recuperado. El uso eficiente de tokens asegura que la información más relevante llegue al modelo.

Clase 1 • Depuración y análisis de causa raíz

Proporciona un proceso sistemático para rastrear respuestas incorrectas hasta fallas en la recuperación, fragmentación o el prompt. El análisis de causa raíz evita atribuir erróneamente los errores de generación a la etapa incorrecta del pipeline.

Clase 2 • Dimensiones de evaluación en RAG

Define los cuatro ejes de calidad de RAG: relevancia del contexto, fidelidad, relevancia de la respuesta y completitud. Una visión multidimensional evita optimizar una métrica a expensas de las demás.

Clase 3 • Marcos de evaluación de RAG de extremo a extremo

Presenta RAGAS y marcos automatizados similares que evalúan pipelines RAG completos. Los marcos automatizados permiten una evaluación continua a medida que el sistema evoluciona.

Clase 4 • Métricas de evaluación de la recuperación

Cubre precisión, exhaustividad, MRR y NDCG para medir la calidad de la recuperación contra conjuntos de datos etiquetados. Las métricas de recuperación aíslan los problemas de indexación y búsqueda de los fallos de generación.

Clase 1 • Recuperación iterativa y de múltiples pasos

Encadena múltiples llamadas de recuperación donde cada paso refina o expande la consulta basándose en resultados anteriores. La recuperación de múltiples pasos maneja preguntas complejas que requieren evidencia de múltiples fuentes.

Clase 2 • Recuperación mejorada con grafos

Aumenta la recuperación vectorial con el recorrido de grafos de conocimiento para capturar relaciones entre entidades. El contexto del grafo mejora las respuestas a preguntas que requieren razonamiento de múltiples saltos.

Clase 3 • RAG agéntico con uso de herramientas

Integra la recuperación como una herramienta más dentro de un agente LLM que planifica y ejecuta flujos de trabajo de múltiples acciones. El RAG agéntico permite la toma de decisiones dinámica más allá de los pipelines de recuperación estáticos.

Clase 4 • RAG multimodal

Extiende RAG para recuperar y razonar sobre imágenes, tablas y documentos de medios mixtos. La recuperación multimodal desbloquea casos de uso donde la información crítica no es textual.

Clase 1 • Observabilidad y monitoreo

Instrumenta el pipeline con rastreo, paneles de latencia y monitores de calidad de recuperación. La observabilidad permite la detección y resolución rápida de la degradación en producción.

Clase 2 • Mejora continua en producción

Establece ciclos de retroalimentación usando señales de usuario, pruebas en sombra y experimentos A/B para mejorar el sistema en vivo. La mejora continua previene la decadencia de la calidad a medida que los datos y los patrones de uso evolucionan.

Clase 3 • Seguridad y control de acceso

Implementa permisos a nivel de documento, sanitización de consultas y filtrado de salida en el pipeline RAG. Los controles de seguridad previenen la exposición no autorizada de datos a través de la recuperación.

Clase 4 • Escalabilidad y ajuste de rendimiento

Aborda la escalabilidad horizontal de la recuperación, estrategias de caché y procesamiento por lotes para cumplir con los objetivos de rendimiento. El ajuste de rendimiento asegura una latencia aceptable bajo los volúmenes de consulta en producción.