Formation technicien PNL

Leçon 1 • Ce qu'est le TALN et pourquoi il importe

Définit le TALN, sa relation avec la linguistique et l'apprentissage automatique, ainsi que son impact concret.

Leçon 2 • Concepts linguistiques fondamentaux pour le TALN

Couvre la phonologie, la morphologie, la syntaxe, la sémantique et la pragmatique telles qu'elles s'appliquent aux chaînes de traitement en TALN. Fournit le vocabulaire linguistique dont les techniciens ont besoin pour interpréter le comportement du modèle.

Leçon 3 • Aperçu des outils et de l'écosystème

Présente un panorama des bibliothèques, cadriciels et API cloud dominants en NLP utilisés en production. Les étudiants acquièrent une orientation dans le paysage des outils avant le début des travaux pratiques.

Leçon 4 • Présentation de la chaîne de traitement du NLP

Présente la séquence standard des étapes de traitement en TALN, du texte brut à la sortie structurée.

Leçon 1 • Stratégies de tokenization

Explique les méthodes de tokenisation par mot, par phrase et par sous-mot ainsi que leurs compromis. Le choix de la tokenisation affecte directement la taille du vocabulaire et la performance du modèle.

Leçon 2 • Acquisition et encodage de texte

Couvre l'extraction de texte à partir de fichiers, d'API et de bases de données, ainsi que la gestion des encodages de caractères. Garantit que les données entrent dans le pipeline sans corruption ni perte.

Leçon 3 • Gestion des mots vides et du vocabulaire

Aborde la suppression des mots vides, l'élagage du vocabulaire et la gestion des mots hors vocabulaire. Elle concilie la rétention d'informations et l'efficacité computationnelle.

Leçon 4 • Nettoyage et suppression du bruit

Enseigne la suppression des balises HTML, des caractères spéciaux, du contenu standardisé et du balisage non pertinent. Améliore directement la précision des modèles en aval en réduisant le bruit.

Leçon 1 • Plongements de phrases et de documents

Étend les représentations au niveau des mots à des phrases et documents complets en utilisant le calcul de moyenne et des modèles dédiés. Permet des tâches de similarité sémantique et de récupération.

Leçon 2 • Sélection de caractéristiques et réduction de dimensionnalité

Utilise le chi-deux, l'information mutuelle et l'ACP pour réduire l'espace des caractéristiques sans perte de signal. Cela améliore la vitesse d'apprentissage du modèle et la généralisation.

Leçon 3 • Sac-de-mots et vecteurs de comptage

Construit des matrices document-terme à l'aide de décomptes bruts et d'indicateurs binaires. Établit la représentation de la ligne de base la plus simple avant d'introduire des méthodes plus riches.

Leçon 4 • Pondération TF-IDF

Applique la fréquence des termes par rapport à la fréquence inverse des documents pour pondérer les termes informatifs. Les étudiants calculent le TF-IDF manuellement et à l'aide de bibliothèques, puis interprètent les résultats.

Leçon 1 • Reconnaissance d'entités nommées

Étiquete les segments d'entités à l'aide d'étiqueteurs basés sur des règles, de CRF et de séquenceurs neuronaux. Les étudiants annotent les données, entraînent les modèles et évaluent la performance au niveau des segments.

Leçon 2 • Extraction de relations et d'événements

Identifie les relations entre les entités et extrait des enregistrements d'événements structurés à partir du texte. S'appuie sur les résultats du NER pour produire des données prêtes pour un graphe de connaissances.

Leçon 3 • Analyse des sentiments

Applique la classification à la détection de polarité et au sentiment basé sur les aspects. Les étudiants traitent la négation, les indicateurs de sarcasme et le changement de domaine.

Leçon 4 • Notions fondamentales de la classification de texte

Entraîne les classifieurs Naive Bayes, régression logistique et SVM sur les caractéristiques textuelles. Relie les choix de représentation du Chapitre 3 aux résultats de classification.

Leçon 1 • Modèles séquence à séquence

Couvre l'architecture encodeur-décodeur pour des tâches telles que la traduction et le résumé. Les étudiants retracent le flux de données à travers l'encodeur, le vecteur de contexte et le décodeur.

Leçon 2 • Les réseaux de neurones récurrents pour le texte

Présente l'architecture RNN, les mécanismes de la propagation avant et les problèmes de gradient qui s'estompent. Vous implémenterez un classifieur de texte RNN simple à partir de zéro.

Leçon 3 • Mécanismes d'attention

Présente l'attention additive et l'attention par produit scalaire comme solutions au goulot d'étranglement contextuel. Prépare les étudiants à l'architecture du transformateur dans le chapitre suivant.

Leçon 4 • Modèles de langue à n-grammes

Construit des modèles probabilistes de séquences de mots à l'aide de décomptes de n-grammes et de lissage. Fournit les fondements statistiques avant l'introduction des modèles neuronaux de séquences.

Leçon 1 • Ajustement fin efficace en termes de paramètres

Présente les méthodes LoRA, l'ajustement par préfixe et les adaptateurs qui réduisent les coûts de calcul et de mémoire. Les étudiants appliquent une méthode PEFT à un modèle pré-entraîné.

Leçon 2 • Ajustement fin des modèles pré-entraînés

Couvre l'ancrage de la tête spécifique à la tâche, la planification du taux d'apprentissage et la prévention du surajustement lors du réglage fin. Les étudiants affinent un modèle pré-entraîné sur un ensemble de données de classification.

Leçon 3 • Plongée approfondie dans l'architecture Transformer

Dissèque l'auto-attention, le codage positionnel, les couches feed-forward et la normalisation de couche. Les étudiants suivent le parcours d'un jeton à travers la pile complète de l'encodeur.

Leçon 4 • Familles de modèles de langage pré-entraînés

Étudie les familles de modèles à encodeur seul, à décodeur seul et encodeur-décodeur, ainsi que leurs objectifs de pré-entraînement. Les étudiants associent la famille de modèles au type de tâche.

Leçon 1 • Techniques d'optimisation de la latence

Applique la quantification, la distillation et l'exportation ONNX pour réduire la latence d'inférence. Les étudiants comparent les performances avant et après chaque optimisation.

Leçon 2 • Conteneurisation et orchestration

Encapsule les services de TALN dans des conteneurs et introduit l'orchestration pour la mise à l'échelle. Les étudiants rédigent une définition de conteneur et déploient un service multi-réplicas.

Leçon 3 • Sérialisation et conditionnement de modèles

Couvre la sauvegarde des poids du modèle, des configurations du tokenizer et des artéfacts de prétraitement sous forme d'un ensemble déployable. Assure la reproductibilité entre les environnements.

Leçon 4 • Surveillance de la production et détection des dérives

Implémente l'enregistrement, la surveillance des prédictions et les alertes de dérive des données pour les services de NLP en production. Les étudiants configureront un tableau de bord de surveillance et définiront des seuils d'alerte.

Leçon 1 • L'IA responsable dans les systèmes de TALN

Aborde la détection des biais, les métriques d'équité, les risques pour la vie privée et les exigences de transparence en TALN. Les étudiants auditeront un modèle pour détecter les biais et documenteront les mesures d'atténuation.

Leçon 2 • PLN multilingue et translinguistique

Applique des modèles multilingues préentraînés aux tâches de transfert interlinguistique et de traduction. Les étudiants évaluent les performances interlinguistiques en mode zéro tir.

Leçon 3 • Systèmes de résumé de texte

Met en œuvre des pipelines de résumé extractif et abstractif et évalue la qualité des résultats. Les étudiants ajustent les compromis entre longueur et fidélité.

Leçon 4 • Schémas de conception de systèmes de PLN

Présente les schémas de conception modulaire en pipeline, en microservices et hybrides règles-réseaux de neurones pour le TALN. Vous sélectionnerez et justifierez un schéma de conception pour un scénario donné.

Leçon 5 • IA conversationnelle et systèmes de dialogue

Couvre la détection d'intention, le remplissage d'emplacement, le suivi de l'état du dialogue et la génération de réponses. Les étudiants construisent un prototype de dialogue orienté tâche.