Formation technicien PNL

Leçon 1 • Qu'est-ce que le TAL et pourquoi il est important

Définit le TAL, sa relation avec la linguistique et l'apprentissage automatique, et son impact réel. Établit la base conceptuelle pour tout le contenu technique ultérieur.

Leçon 2 • Concepts Linguistiques Fondamentaux pour le TAL

Couvre la phonologie, la morphologie, la syntaxe, la sémantique et la pragmatique telles qu'elles s'appliquent aux pipelines de TAL. Fournit le vocabulaire linguistique dont les techniciens ont besoin pour interpréter le comportement des modèles.

Leçon 3 • Aperçu des Outils et de l'Écosystème

Passe en revue les principales bibliothèques, frameworks et API cloud de TAL utilisés en production. Les étudiants acquièrent une orientation du paysage des outils avant de commencer le travail pratique.

Leçon 4 • Aperçu du Pipeline de TAL

Introduit la séquence standard des étapes de traitement du TAL, du texte brut à la sortie structurée. Les étudiants associent chaque étape à une tâche concrète et comprennent le flux de données.

Leçon 1 • Stratégies de Tokenisation

Explique les méthodes de tokenisation de mots, de phrases et de sous-mots ainsi que leurs compromis. Le choix de la tokenisation affecte directement la taille du vocabulaire et les performances du modèle.

Leçon 2 • Acquisition et Encodage du Texte

Couvre l'obtention de texte à partir de fichiers, d'API et de bases de données, ainsi que la gestion des encodages de caractères. Garantit que les données entrent dans le pipeline sans corruption ni perte.

Leçon 3 • Gestion des Mots Vides et du Vocabulaire

Aborde la suppression des mots vides, l'élagage du vocabulaire et la gestion des mots hors vocabulaire. Équilibre la conservation de l'information et l'efficacité computationnelle.

Leçon 4 • Nettoyage et Suppression du Bruit

Enseigne la suppression des balises HTML, des caractères spéciaux, du texte passe-partout et du balisage non pertinent. Améliore directement la précision en aval du modèle en réduisant le bruit.

Leçon 1 • Plongements de Phrases et de Documents

Étend les représentations au niveau du mot à des phrases et documents entiers en utilisant le calcul de moyenne et des modèles dédiés. Permet les tâches de similarité sémantique et de récupération.

Leçon 2 • Sélection de Caractéristiques et Réduction de Dimensionnalité

Applique le chi-carré, l'information mutuelle et l'ACP pour réduire l'espace des caractéristiques sans perdre le signal. Améliore la vitesse d'entraînement du modèle et la généralisation.

Leçon 3 • Sac de Mots et Vecteurs de Comptage

Construit des matrices document-terme en utilisant des comptes bruts et des indicateurs binaires. Établit la représentation de base la plus simple avant d'introduire des méthodes plus riches.

Leçon 4 • Pondération TF-IDF

Applique la fréquence de terme-fréquence inverse de document pour pondérer les termes informatifs. Les étudiants calculent le TF-IDF manuellement et avec des bibliothèques, puis interprètent les résultats.

Leçon 1 • Reconnaissance d'Entités Nommées

Étiquette les spans d'entités en utilisant des étiqueteurs de séquence basés sur des règles, CRF et neuronaux. Les étudiants annotent des données, entraînent des modèles et évaluent les performances au niveau des spans.

Leçon 2 • Extraction de Relations et d'Événements

Identifie les relations entre les entités et extrait des enregistrements d'événements structurés à partir du texte. S'appuie sur les sorties de la NER pour produire des données prêtes pour les graphes de connaissances.

Leçon 3 • Analyse des Sentiments

Applique la classification à la détection de polarité et aux sentiments basés sur les aspects. Les étudiants gèrent la négation, les indicateurs de sarcasme et le changement de domaine.

Leçon 4 • Fondamentaux de la Classification de Texte

Entraîne les classifieurs Naive Bayes, régression logistique et SVM sur des caractéristiques textuelles. Relie les choix de représentation du Chapitre 3 aux résultats de classification.

Leçon 1 • Modèles Séquence-à-Séquence

Couvre l'architecture encodeur-décodeur pour des tâches comme la traduction et le résumé. Les étudiants suivent le flux de données à travers l'encodeur, le vecteur de contexte et le décodeur.

Leçon 2 • Réseaux de Neurones Récurrents pour le Texte

Introduit l'architecture RNN, la mécanique de la passe avant et les problèmes de gradient qui s'estompent. Les étudiants implémentent un classifieur de texte RNN simple à partir de zéro.

Leçon 3 • Mécanismes d'Attention

Introduit l'attention additive et par produit scalaire comme solutions au goulot d'étranglement du contexte. Prépare les étudiants à l'architecture du transformateur dans le chapitre suivant.

Leçon 4 • Modèles de Langage à N-grammes

Construit des modèles probabilistes de séquences de mots en utilisant des comptes de n-grammes et le lissage. Fournit la base statistique avant l'introduction des modèles de séquence neuronaux.

Leçon 1 • Ajustement Efficace en Paramètres

Introduit LoRA, le réglage des préfixes et les méthodes d'adaptation qui réduisent les coûts de calcul et de mémoire. Les étudiants appliquent une méthode PEFT à un modèle pré-entraîné.

Leçon 2 • Ajustement des Modèles Pré-entraînés

Couvre l'attachement d'une tête de tâche spécifique, la planification du taux d'apprentissage et la prévention du sur-apprentissage lors de l'ajustement. Les étudiants ajustent un modèle pré-entraîné sur un ensemble de données de classification.

Leçon 3 • Analyse Approfondie de l'Architecture du Transformateur

Dissèque l'auto-attention, l'encodage positionnel, les couches feed-forward et la normalisation des couches. Les étudiants suivent un jeton à travers la pile complète de l'encodeur.

Leçon 4 • Familles de Modèles de Langage Pré-entraînés

Passe en revue les familles de modèles encodeur-seul, décodeur-seul et encodeur-décodeur ainsi que leurs objectifs de pré-entraînement. Les étudiants font correspondre la famille de modèles au type de tâche.

Leçon 1 • Techniques d'Optimisation de la Latence

Applique la quantification, la distillation et l'exportation ONNX pour réduire la latence d'inférence. Les étudiants effectuent des tests de performance avant et après chaque optimisation.

Leçon 2 • Conteneurisation et Orchestration

Empaquette les services de TAL dans des conteneurs et introduit l'orchestration pour la mise à l'échelle. Les étudiants écrivent une définition de conteneur et déploient un service à plusieurs répliques.

Leçon 3 • Sérialisation et Empaquetage de Modèles

Couvre la sauvegarde des poids du modèle, des configurations du tokeniseur et des artefacts de prétraitement sous forme de bundle déployable. Garantit la reproductibilité entre les environnements.

Leçon 4 • Surveillance en Production et Détection de Dérive

Implémente la journalisation, la surveillance des prédictions et les alertes de dérive des données pour les services de TAL en direct. Les étudiants configurent un tableau de bord de surveillance et définissent des seuils d'alerte.

Leçon 1 • IA Responsable dans les Systèmes de TAL

Aborde la détection des biais, les métriques d'équité, les risques pour la vie privée et les exigences de transparence dans le TAL. Les étudiants auditent un modèle pour détecter les biais et documentent les mesures d'atténuation.

Leçon 2 • TAL Multilingue et Cross-Lingue

Applique des modèles pré-entraînés multilingues à des tâches de transfert cross-lingue et de traduction. Les étudiants évaluent les performances cross-lingues zero-shot.

Leçon 3 • Systèmes de Résumé de Texte

Implémente des pipelines de résumé extractif et abstractif et évalue la qualité de la sortie. Les étudiants règlent les compromis entre longueur et fidélité.

Leçon 4 • Modèles de Conception de Systèmes de TAL

Introduit les modèles de conception de pipeline modulaire, de microservice et hybride règle-neuronal pour le TAL. Les étudiants sélectionnent et justifient un modèle de conception pour un scénario donné.

Leçon 5 • IA Conversationnelle et Systèmes de Dialogue

Couvre la détection d'intention, le remplissage de créneaux, le suivi de l'état du dialogue et la génération de réponses. Les étudiants construisent un prototype de dialogue orienté tâche.