Curso de Moderación

Lección 1 • Tipos de contenido dañino

Cataloga las principales categorías de daño, incluyendo discurso de odio, acoso, desinformación y contenido ilegal. Proporciona una taxonomía utilizada a lo largo del curso para tareas de clasificación.

Lección 2 • Principios éticos fundamentales

Introduce la proporcionalidad, la consistencia, la transparencia y el debido proceso como valores rectores. Enmarca el razonamiento ético como una herramienta práctica que los moderadores aplican en cada decisión.

Lección 3 • Actores interesados y ecosistemas de plataformas

Identifica a usuarios, plataformas, anunciantes y reguladores como actores interdependientes. Explica cómo los intereses de los actores interesados moldean las prioridades y decisiones de moderación.

Lección 4 • Qué es la moderación de contenido

Define la moderación, la distingue de la censura y delimita su alcance. Ancla todo el aprendizaje técnico y de políticas posterior a una base conceptual compartida.

Lección 1 • Cláusulas de política contextuales y matizadas

Aborda las excepciones por sátira, reportaje periodístico, educación y expresión artística. Enseña cómo incorporar cláusulas sensibles al contexto sin socavar la claridad de la aplicación.

Lección 2 • Redacción de reglas claras y aplicables

Cubre la redacción en lenguaje claro, la especificidad y la forma de evitar la ambigüedad en el texto de las políticas. Los estudiantes practican la reescritura de reglas vagas en estándares procesables y comprobables.

Lección 3 • Control de versiones de políticas y gestión de cambios

Explica cómo actualizar las políticas de forma responsable, comunicar los cambios a los usuarios y mantener el historial de versiones. Vincula la evolución de las políticas con las tendencias de daños emergentes identificadas en el Capítulo 1.

Lección 4 • Anatomía de una directriz comunitaria

Desglosa los componentes estructurales de las políticas de plataforma efectivas. Enseña a los estudiantes a identificar el alcance, las definiciones, los comportamientos prohibidos y las consecuencias de su aplicación.

Lección 1 • Consistencia y mitigación de sesgos

Identifica los sesgos cognitivos que distorsionan las decisiones de moderación e introduce técnicas de calibración. Conecta la toma de decisiones consistente con los principios de equidad establecidos en el Capítulo 1.

Lección 2 • El Marco de Decisión de Moderación

Introduce un proceso de decisión paso a paso: identificar, clasificar, contextualizar, decidir y documentar. Proporciona la columna vertebral analítica para todo el trabajo de evaluación de casos en este capítulo.

Lección 3 • Aplicación de árboles de decisión

Enseña la construcción y el uso de árboles de decisión ramificados para categorías de daño comunes. Los estudiantes construyen y prueban árboles con casos de muestra para validar su lógica.

Lección 4 • Manejo de casos ambiguos y límite

Proporciona estrategias para los casos que quedan fuera de la cobertura clara de la política. Enseña criterios de escalamiento, consulta entre pares y documentación provisional de la decisión.

Lección 1 • Taxonomía de acciones de aplicación

Cataloga las acciones disponibles, desde la eliminación y el etiquetado de contenido hasta la suspensión de cuentas y la remisión legal. Establece un vocabulario compartido para la aplicación utilizado a lo largo del capítulo.

Lección 2 • Sistemas de sanciones graduadas

Diseña e implementa sistemas de sanciones basados en puntos de penalización y en niveles. Los estudiantes asignan los tipos de infracción a los niveles de sanción y definen rutas de restablecimiento y rehabilitación.

Lección 3 • Proporcionalidad en la aplicación

Aplica el principio de proporcionalidad del Capítulo 1 a la selección de acciones. Enseña a adecuar la severidad de la sanción al nivel de daño, la intención y el historial de reincidencia.

Lección 4 • Aplicación en situaciones de emergencia y crisis

Cubre la aplicación de respuesta rápida durante noticias de última hora, ataques coordinados y crisis de plataforma. Enseña medidas temporales, protocolos de sala de crisis y revisión poscrisis.

Lección 1 • Informes de transparencia sobre apelaciones

Cubre cómo agregar y publicar datos de apelaciones como parte de las obligaciones de transparencia de la plataforma. Conecta la documentación de casos individuales del Capítulo 3 con la rendición de cuentas sistémica.

Lección 2 • Manejo de apelaciones repetidas y de mala fe

Identifica patrones de apelaciones abusivas o de mala fe y proporciona estrategias para gestionarlas. Protege la capacidad del revisor, manteniendo al mismo tiempo el acceso legítimo al proceso de apelación.

Lección 3 • Redacción de avisos de aplicación efectivos

Enseña una comunicación clara, empática y basada en la política para las acciones de aplicación. Reduce las apelaciones repetidas y la confusión del usuario mediante un lenguaje de aviso preciso y procesable.

Lección 4 • Principios del debido proceso en la moderación

Traslada los conceptos legales del debido proceso a la práctica de la plataforma: notificación, oportunidad de respuesta y revisión imparcial. Fundamenta el diseño del sistema de apelaciones en los principios éticos del Capítulo 1.

Lección 1 • Cómo funciona la moderación automatizada

Explica los clasificadores, la coincidencia por hash, el procesamiento del lenguaje natural y el reconocimiento de imágenes como herramientas de moderación. Proporciona la alfabetización técnica necesaria para configurar y evaluar sistemas automatizados.

Lección 2 • Limitaciones y modos de falla de la IA

Cataloga los modos comunes de falla de la IA: ceguera contextual, evasión adversarial y brechas lingüísticas. Prepara a los moderadores para reconocer cuándo los sistemas automatizados requieren una anulación humana.

Lección 3 • Integración de humano en el circuito

Diseña flujos de trabajo donde las señales automatizadas se enrutan a revisores humanos en umbrales de confianza apropiados. Equilibra la velocidad y la precisión al definir puntos de transferencia claros entre sistemas y personas.

Lección 4 • Configuración de sistemas automatizados

Enseña el establecimiento de umbrales, la gestión de listas de permitidos y bloqueados, y la interpretación de puntuaciones de confianza. Los estudiantes practican la configuración de un clasificador simulado para un alcance de política definido.

Lección 1 • Diseño de tarjetas de puntuación de control de calidad

Enseña la construcción de tarjetas de puntuación ponderadas que reflejan las prioridades de la política y la gravedad del daño. Los estudiantes construyen una tarjeta de puntuación alineada con la taxonomía de aplicación del Capítulo 4.

Lección 2 • Definición de la calidad de la moderación

Establece la precisión, la consistencia, la velocidad y la adhesión a las políticas como los cuatro pilares de la calidad de la moderación. Proporciona el marco de medición aplicado a lo largo del capítulo.

Lección 3 • Metodología de muestreo y auditoría

Cubre las estrategias de muestreo aleatorio, estratificado y dirigido para las auditorías de control de calidad. Asegura que las muestras de auditoría sean representativas y estadísticamente significativas para las conclusiones de desempeño.

Lección 4 • Tableros de desempeño e informes

Enseña la construcción e interpretación de tableros de desempeño periódicos y en tiempo real. Los estudiantes identifican tendencias, señalan valores atípicos y generan recomendaciones de mejora procesables.

Lección 1 • Evaluación y priorización de riesgos

Aplica marcos de riesgo para identificar y priorizar los vectores de daño de mayor impacto en una plataforma. Enseña la toma de decisiones de asignación de recursos basada en la probabilidad de daño y los datos de gravedad.

Lección 2 • Gobernanza del programa de moderación

Define las estructuras de gobernanza, incluyendo los consejos de políticas, los comités de escalamiento y los consejos asesores externos. Establece mecanismos de rendición de cuentas que mantienen la integridad del programa a escala.

Lección 3 • Construcción de una hoja de ruta del programa de moderación

Sintetiza todas las competencias del curso en una hoja de ruta estructurada del programa con hitos, responsables y métricas de éxito. Los estudiantes presentan una hoja de ruta completa como entregable final del curso.

Lección 4 • Medición del impacto a nivel de programa

Extiende las métricas de control de calidad del Capítulo 7 a los resultados a nivel de programa: reducción de daños, confianza del usuario y efectividad de las políticas. Enseña métodos de medición longitudinal y atribución de impacto.