Curso de Temas Actuales en Ética e IA

Lección 1 • Mapeo del panorama de la ética de la IA

Examina los principales actores, instituciones y debates en curso que configuran la ética de la IA a nivel global. Prepara a los estudiantes para navegar el discurso ético del mundo real.

Lección 2 • Contexto histórico de la ética tecnológica

Rastrea los debates éticos desde la automatización industrial hasta la IA moderna. Sitúa los problemas actuales dentro de un arco más amplio de disrupción tecnológica.

Lección 3 • Qué es la ética de la IA

Define la ética de la IA como disciplina y la distingue del derecho y las políticas. Ancla el capítulo estableciendo terminología compartida para todos los temas posteriores.

Lección 4 • Valores integrados en los sistemas de IA

Examina cómo las decisiones de diseño codifican valores en los algoritmos y pipelines de datos. Conecta la ética abstracta con decisiones concretas de ingeniería.

Lección 1 • Estrategias de mitigación y compensaciones

Cubre técnicas de mitigación de sesgo en preprocesamiento, procesamiento y postprocesamiento. Evalúa las compensaciones entre precisión y equidad en contextos de despliegue.

Lección 2 • Fuentes del sesgo algorítmico

Identifica cómo el sesgo entra en la IA a través de la recopilación de datos, el etiquetado y el diseño del modelo. Fundamenta el análisis de equidad en orígenes técnicos concretos.

Lección 3 • Atributos protegidos y variables proxy

Examina cómo la eliminación de atributos sensibles no previene la discriminación a través de proxies correlacionados. Conecta conceptos legales de antidiscriminación con realidades técnicas.

Lección 4 • Definición de equidad en la IA

Contrasta las definiciones estadísticas de equidad, incluyendo paridad demográfica, probabilidades igualadas y calibración. Revela las compensaciones inherentes entre definiciones contrapuestas.

Lección 1 • Técnicas clave de explicabilidad

Examina LIME, SHAP, mapas de saliencia y árboles de decisión como herramientas prácticas. Conecta los métodos técnicos con los requisitos éticos para una explicación significativa.

Lección 2 • El problema de la caja negra

Describe la opacidad en modelos complejos y por qué es importante para la rendición de cuentas. Establece lo que está en juego éticamente y que motiva la investigación en explicabilidad.

Lección 3 • Construcción de confianza justificada en la IA

Conecta las prácticas de transparencia con la confianza humana calibrada en los sistemas de IA. Sintetiza el capítulo vinculando la explicabilidad con objetivos más amplios de rendición de cuentas.

Lección 4 • Límites y riesgos de las explicaciones

Critica las explicaciones engañosas, incompletas o manipulables. Previene la dependencia excesiva de la explicabilidad como solución ética completa.

Lección 1 • Técnicas de IA para preservar la privacidad

Presenta la privacidad diferencial, el aprendizaje federado y los datos sintéticos como salvaguardas técnicas. Conecta principios éticos con soluciones de ingeniería.

Lección 2 • Derechos sobre los datos y control individual

Cubre los derechos de acceso, corrección, eliminación y portabilidad de datos personales. Capacita a los estudiantes para diseñar sistemas que respeten los derechos de datos de los usuarios.

Lección 3 • La privacidad como valor ético

Enmarca la privacidad como fundamental para la autonomía, la dignidad y la participación democrática. Establece la base normativa para los derechos sobre los datos en contextos de IA.

Lección 4 • Tecnologías de vigilancia basadas en IA

Examina el reconocimiento facial, el seguimiento conductual y la elaboración de perfiles predictivos como herramientas de vigilancia. Conecta las capacidades técnicas con las preocupaciones sobre las libertades civiles.

Lección 1 • Mecanismos de reparación y recurso

Analiza cómo los individuos afectados pueden impugnar y buscar remedio por los daños causados por la IA. Completa la cadena de rendición de cuentas desde la gobernanza hasta el recurso individual.

Lección 2 • Brechas de responsabilidad en los sistemas de IA

Identifica cómo el desarrollo distribuido crea brechas donde ningún actor es considerado responsable. Motiva la necesidad de estructuras explícitas de rendición de cuentas.

Lección 3 • Estructuras organizacionales de ética de la IA

Examina los consejos de ética, los procesos de revisión y las pruebas de equipo rojo como herramientas de gobernanza interna. Conecta la teoría de la gobernanza con la implementación organizacional práctica.

Lección 4 • Frameworks de gobernanza de la IA

Examina los enfoques de gobernanza basados en riesgos, en derechos y sectoriales. Prepara a los estudiantes para evaluar y aplicar modelos de gobernanza en sus organizaciones.

Lección 1 • Prevención de daños y diseño seguro

Cubre los principios de seguridad desde el diseño, los requisitos de supervisión humana y los mecanismos de interruptor de emergencia. Sintetiza el conocimiento sobre riesgos en estrategias de prevención accionables.

Lección 2 • Metodologías de evaluación de riesgos

Presenta el análisis de modos de falla, las pruebas de equipo rojo y la evaluación probabilística de riesgos para la IA. Prepara a los estudiantes para realizar evaluaciones estructuradas de riesgos previas al despliegue.

Lección 3 • Contextos de despliegue de alto riesgo

Analiza la amplificación del riesgo ético en la atención médica, la justicia penal y la infraestructura crítica. Aplica frameworks de riesgo a dominios donde los errores causan daños graves.

Lección 4 • Robustez y confiabilidad

Examina el cambio de distribución, los ataques adversariales y la degradación del modelo como amenazas a la seguridad. Conecta la robustez técnica con las obligaciones éticas de un desempeño fiable.

Lección 1 • Diseño de una supervisión humana eficaz

Proporciona frameworks para diseñar mecanismos de supervisión que sean genuinamente eficaces. Sintetiza el capítulo traduciendo la ética de la autonomía en diseño de sistemas.

Lección 2 • Espectro de la autonomía de la IA

Mapea los sistemas de IA desde el apoyo a decisiones hasta la autonomía total y los riesgos éticos en cada nivel. Establece el rango conceptual para la asignación de autoridad entre humanos e IA.

Lección 3 • IA en decisiones sociales consecuentes

Analiza el uso de la IA en la contratación, préstamos, sentencias y asignación de beneficios. Evalúa cuándo la automatización socava la equidad y los derechos individuales.

Lección 4 • Armas autónomas e IA letal

Examina los debates éticos en torno a los sistemas de armas autónomas letales y las brechas de rendición de cuentas. Aplica los principios de autonomía al dominio de despliegue más consecuente.

Lección 1 • IA, trabajo y justicia económica

Analiza los efectos distributivos de la automatización en los trabajadores, los salarios y la desigualdad económica. Conecta las decisiones de despliegue de IA con obligaciones más amplias de justicia social.

Lección 2 • Desarrollo de una estrategia de IA ética

Sintetiza el contenido del curso en un framework estratégico para el liderazgo organizacional en ética de la IA. Prepara a los estudiantes para defender la IA ética a nivel de sistemas.

Lección 3 • Riesgos existenciales y a largo plazo de la IA

Examina los argumentos sobre la desalineación, el bloqueo de valores y el riesgo catastrófico de la IA. Presenta a los estudiantes las perspectivas a largo plazo y sus críticas.

Lección 4 • Desafíos de la gobernanza global de la IA

Examina la competencia geopolítica, la fragmentación regulatoria y las brechas de gobernanza en la IA. Prepara a los estudiantes para razonar sobre los desafíos de la coordinación internacional.