Formation en modération de contenu

Leçon 1 • Types de contenu nuisible

Catalogue les principales catégories de contenu nuisible, notamment le discours de haine, le harcèlement, la désinformation et les contenus illégaux. Fournit une taxonomie utilisée tout au long du cours pour les tâches de classification.

Leçon 2 • Principes éthiques fondamentaux

Présente la proportionnalité, la cohérence, la transparence et la procédure légale comme valeurs directrices. Cadre le raisonnement éthique comme un outil pratique que les modérateurs appliquent à chaque décision.

Leçon 3 • Parties prenantes et écosystèmes de plateformes

Identifie les utilisateurs, les plateformes, les annonceurs et les régulateurs comme des acteurs interdépendants. Explique comment les intérêts des parties prenantes façonnent les priorités et les décisions de modération.

Leçon 4 • Ce qu'est la modération de contenu

Définit la modération, la distingue de la censure et en cartographie le périmètre. Ancre tout l'apprentissage technique et politique ultérieur sur une base conceptuelle commune.

Leçon 1 • Clauses politiques contextuelles et nuancées

Aborde les exceptions pour la satire, les reportages d'actualité, l'éducation et l'expression artistique. Enseigne comment intégrer des clauses sensibles au contexte sans compromettre la clarté de l'application.

Leçon 2 • Rédiger des règles claires et applicables

Couvre la rédaction en langage simple, la spécificité et l'évitement de l'ambiguïté dans le texte des politiques. Les étudiants s'entraînent à reformuler des règles vagues en normes exploitables et testables.

Leçon 3 • Gestion des versions et des changements de politique

Explique comment mettre à jour les politiques de manière responsable, communiquer les changements aux utilisateurs et maintenir l'historique des versions. Relie l'évolution des politiques aux tendances émergentes des préjudices identifiées au Chapitre 1.

Leçon 4 • Anatomie d'une directive communautaire

Décompose les composantes structurelles des politiques de plateforme efficaces. Apprend aux étudiants à identifier la portée, les définitions, les comportements interdits et les conséquences de l'application.

Leçon 1 • Cohérence et atténuation des biais

Identifie les biais cognitifs qui faussent les décisions de modération et introduit des techniques de calibration. Relie la prise de décision cohérente aux principes d'équité établis au Chapitre 1.

Leçon 2 • Le cadre de décision de modération

Présente un processus de décision étape par étape : identifier, classer, contextualiser, décider et documenter. Fournit l'épine dorsale analytique pour tout le travail d'évaluation de cas dans ce chapitre.

Leçon 3 • Application des arbres de décision

Enseigne la construction et l'utilisation d'arbres de décision ramifiés pour les catégories de préjudice courantes. Les étudiants construisent et testent des arbres sur des cas d'échantillon pour en valider la logique.

Leçon 4 • Gestion des cas ambigus et limites

Fournit des stratégies pour les cas qui sortent du champ d'application clair de la politique. Enseigne les critères d'escalade, la consultation par les pairs et la documentation des décisions provisoires.

Leçon 1 • Taxonomie des actions d'application

Catalogue les actions disponibles, du retrait de contenu et de l'étiquetage à la suspension de compte et au signalement légal. Établit un vocabulaire commun pour l'application utilisé dans tout le chapitre.

Leçon 2 • Systèmes de sanctions graduées

Conçoit et met en œuvre des systèmes de sanctions basés sur des signalements et des niveaux. Les étudiants font correspondre les types de violation aux niveaux de sanction et définissent les voies de réinitialisation et de réhabilitation.

Leçon 3 • Proportionnalité dans l'application

Applique le principe de proportionnalité du Chapitre 1 à la sélection des actions. Enseigne à faire correspondre la sévérité de la sanction au niveau de préjudice, à l'intention et à l'historique de récidive.

Leçon 4 • Application en situation d'urgence et de crise

Couvre l'application à réponse rapide lors d'actualités de dernière minute, d'attaques coordonnées et de crises de plateforme. Enseigne les mesures temporaires, les protocoles de cellule de crise et la révision post-crise.

Leçon 1 • Rapports de transparence sur les appels

Couvre la manière d'agréger et de publier les données sur les appels dans le cadre des obligations de transparence de la plateforme. Relie la documentation des cas individuels du Chapitre 3 à la responsabilité systémique en matière de rapports.

Leçon 2 • Gestion des appels répétés et de mauvaise foi

Identifie les schémas d'appels abusifs ou de mauvaise foi et fournit des stratégies pour les gérer. Protège la capacité des réviseurs tout en maintenant un accès légitime au processus d'appel.

Leçon 3 • Rédiger des notifications d'application efficaces

Enseigne une communication claire, empathique et fondée sur la politique pour les actions d'application. Réduit les ré-appels et la confusion des utilisateurs grâce à un langage de notification précis et exploitable.

Leçon 4 • Principes de procédure légale dans la modération

Traduit les concepts juridiques de procédure légale en pratique de plateforme : notification, possibilité de répondre et révision impartiale. Ancre la conception du système d'appel dans les principes éthiques du Chapitre 1.

Leçon 1 • Comment fonctionne la modération automatisée

Explique les classificateurs, la correspondance par hachage, le traitement du langage naturel et la reconnaissance d'image comme outils de modération. Fournit les connaissances techniques nécessaires pour configurer et évaluer les systèmes automatisés.

Leçon 2 • Limites et modes de défaillance de l'IA

Catalogue les modes de défaillance courants de l'IA : cécité contextuelle, contournement adversarial et lacunes linguistiques. Prépare les modérateurs à reconnaître quand les systèmes automatisés nécessitent une intervention humaine.

Leçon 3 • Intégration humaine dans la boucle

Conçoit des flux de travail où les signalements automatisés sont orientés vers des réviseurs humains à des seuils de confiance appropriés. Équilibre la vitesse et la précision en définissant des points de transfert clairs entre les systèmes et les personnes.

Leçon 4 • Configuration des systèmes automatisés

Enseigne le réglage des seuils, la gestion des listes d'autorisation et de blocage, et l'interprétation des scores de confiance. Les étudiants s'entraînent à configurer un classificateur simulé pour un champ d'application politique défini.

Leçon 1 • Conception de fiches d'évaluation QA

Enseigne la construction de fiches d'évaluation pondérées qui reflètent les priorités politiques et la gravité des préjudices. Les étudiants construisent une fiche d'évaluation alignée sur la taxonomie d'application du Chapitre 4.

Leçon 2 • Définir la qualité de la modération

Établit la précision, la cohérence, la rapidité et le respect de la politique comme les quatre piliers de la qualité de la modération. Fournit le cadre de mesure appliqué tout au long du chapitre.

Leçon 3 • Méthodologie d'échantillonnage et d'audit

Couvre les stratégies d'échantillonnage aléatoire, stratifié et ciblé pour les audits QA. Garantit que les échantillons d'audit sont représentatifs et statistiquement significatifs pour les conclusions de performance.

Leçon 4 • Tableaux de bord de performance et rapports

Enseigne la construction et l'interprétation de tableaux de bord de performance en temps réel et périodiques. Les étudiants identifient les tendances, signalent les anomalies et génèrent des recommandations d'amélioration exploitables.

Leçon 1 • Évaluation des risques et priorisation

Applique des cadres de risque pour identifier et prioriser les vecteurs de préjudice ayant le plus grand impact sur une plateforme. Enseigne les décisions d'allocation des ressources fondées sur les données de probabilité et de gravité des préjudices.

Leçon 2 • Gouvernance du programme de modération

Définit les structures de gouvernance, y compris les conseils politiques, les comités d'escalade et les comités consultatifs externes. Établit des mécanismes de responsabilisation qui maintiennent l'intégrité du programme à grande échelle.

Leçon 3 • Élaborer une feuille de route de programme de modération

Synthétise toutes les compétences du cours en une feuille de route structurée avec des jalons, des responsables et des indicateurs de succès. Les étudiants présentent une feuille de route complète en tant que livrable final.

Leçon 4 • Mesurer l'impact au niveau du programme

Étend les indicateurs QA du Chapitre 7 aux résultats au niveau du programme : réduction des préjudices, confiance des utilisateurs et efficacité des politiques. Enseigne les méthodes de mesure longitudinale et d'attribution d'impact.