Formation Documenter et évaluer l'éthique de l'IA

Leçon 1 • Théories éthiques fondamentales et IA

Passe en revue le conséquentialisme, la déontologie, l'éthique des vertus et le contractualisme tels qu'appliqués aux décisions de l'IA. Fournit les prismes théoriques utilisés tout au long du cours.

Leçon 2 • Contexte historique de l'éthique de l'IA

Retrace les débats éthiques depuis les débuts de l'informatique jusqu'à l'apprentissage automatique moderne. Montre comment les controverses passées ont façonné les principes actuels et les attentes réglementaires.

Leçon 3 • Qu'est-ce que l'éthique de l'IA

Définit l'éthique de l'IA en tant que discipline et la distingue de la sécurité de l'IA et du droit de l'IA. Ancre le chapitre en établissant une terminologie commune pour tous les sujets suivants.

Leçon 1 • Définir l'équité mathématiquement

Présente la parité démographique, l'égalisation des chances, l'étalonnage et les mesures d'équité individuelle. Démontre pourquoi aucune mesure unique ne peut satisfaire simultanément tous les objectifs d'équité.

Leçon 2 • Sources de biais dans l'IA

Catégorise les biais comme historiques, de représentation, de mesure et d’agrégation. Relie chaque source à des modes de défaillance concrets que les étudiants analyseront plus tard.

Leçon 3 • Stratégies d'atténuation des biais

Présente les techniques de débiaisage en pré-traitement, en cours de traitement et en post-traitement. Les étudiants évaluent les compromis entre précision et équité pour chaque approche.

Leçon 4 • L'équité dans les domaines à enjeux élevés

Applique les concepts d'équité dans les contextes de l'embauche, du prêt, des soins de santé et de la justice pénale. Renforce l'idée que le contexte du domaine détermine les critères d'équité les plus appropriés.

Leçon 1 • Communiquer les explications aux parties prenantes

Enseigne la traduction des explications techniques en récits en langage clair pour les publics non experts. Fait le lien avec la cartographie des parties prenantes du chapitre 1.

Leçon 2 • Transparence vs. explicabilité

Distingue la transparence du système, l'interprétabilité du modèle et l'explicabilité a posteriori comme des concepts distincts. Clarifie quel concept répond à quel besoin d'imputabilité.

Leçon 3 • Limites et risques de l'explicabilité

Aborde la manipulation des explications, la fausse confiance et les risques pour la vie privée de la révélation des mécanismes internes du modèle. Prépare les étudiants à utiliser l'explicabilité de manière responsable.

Leçon 4 • Modèles intrinsèquement interprétables

Examine les arbres de décision, les modèles linéaires et les systèmes basés sur des règles comme architectures intrinsèquement transparentes. Les étudiants évaluent les compromis entre interprétabilité et performance prédictive.

Leçon 1 • Confidentialité dès la conception dans les pipelines d'IA

Applique les principes de confidentialité dès la conception à toutes les étapes de la collecte de données, de l'apprentissage du modèle et du déploiement. Les étudiants produisent une évaluation d'impact sur la vie privée pour un pipeline d'exemple.

Leçon 2 • Risques de ré-identification et d'inférence

Démontre comment les données anonymisées peuvent être ré-identifiées et comment les modèles divulguent des attributs sensibles. Renforce l'idée que l'anonymisation technique seule est insuffisante.

Leçon 3 • Technologies d'amélioration de la confidentialité

Aborde la confidentialité différentielle, l'apprentissage fédéré et les données synthétiques en tant que mesures de sécurité techniques pour la protection de la vie privée. Les étudiants évaluent le compromis entre confidentialité et utilité de chaque technologie.

Leçon 4 • Principes de confidentialité dans les contextes d'IA

Présente la minimisation des données, la limitation des finalités, les limites de stockage et l'intégrité contextuelle. Ancre l'analyse de la vie privée dans des principes applicables à différents régimes réglementaires.

Leçon 1 • Politiques d'IA et normes internes

Guide les étudiants dans la rédaction de politiques d'utilisation de l'IA, de normes d'utilisation acceptable et de procédures d'escalade. Relie les normes internes aux attentes réglementaires externes.

Leçon 2 • Concepts d'imputabilité dans l'IA

Définit la responsabilité de rendre compte, la responsabilité juridique et les voies de recours comme des dimensions distinctes de l'imputabilité. Établit le vocabulaire conceptuel pour la conception des structures de gouvernance.

Leçon 3 • Gestion des incidents et mesures correctives

Établit des protocoles pour détecter, signaler et corriger les préjudices liés à l'IA. Les étudiants rédigent un plan de gestion des incidents en utilisant un modèle structuré.

Leçon 4 • Modèles de gouvernance organisationnelle de l'IA

Compare les comités d'éthique centralisés, la propriété partagée et les modèles de gouvernance hybrides. Les étudiants évaluent quel modèle convient à différentes tailles d'organisation et profils de risque.

Leçon 1 • Communication et reporting des risques

Enseigne comment communiquer clairement les résultats de l'analyse des risques de l'IA aux dirigeants, aux conseils d'administration et aux régulateurs. Renforce les structures d'imputabilité du chapitre 5 avec des formats de reporting pratiques.

Leçon 2 • Surveillance continue et dérive du modèle

Aborde la dégradation des performances, le changement de distribution et la dérive de concept en tant que risques post-déploiement. Les étudiants conçoivent un tableau de bord de surveillance avec des seuils d'alerte.

Leçon 3 • Évaluation des risques pré-déploiement

Couvre la modélisation des menaces, les tests d'intrusion en équipe rouge et les listes de contrôle pré-lancement pour les systèmes d'IA. Les étudiants réalisent une évaluation structurée pré-déploiement sur un système d'exemple.

Leçon 4 • Hiérarchisation et priorisation des risques

Présente des frameworks de hiérarchisation des risques qui classent les systèmes d'IA selon la gravité et l'étendue des préjudices potentiels. Les étudiants appliquent la hiérarchisation pour déterminer l'intensité de surveillance appropriée.

Leçon 1 • Conception d'un plan d'évaluation éthique

Guide les étudiants dans la définition du périmètre, la sélection des critères, la collecte de preuves et la conception de la notation. Produit un modèle de plan d'évaluation réutilisable applicable à différents types de projets d'IA.

Leçon 2 • Mesures éthiques quantitatives

Opérationnalise l'équité, la vie privée et la robustesse en tant que mesures quantifiables avec des seuils définis. Fait le lien avec les mesures de biais du chapitre 2 et les outils de confidentialité du chapitre 4.

Leçon 3 • Documentation et reporting des évaluations

Établit des normes pour la rédaction de rapports d'évaluation, de fiches modèles et de fiches techniques pour les ensembles de données. Les étudiants produisent un rapport d'évaluation complet pour un système d'IA d'exemple.

Leçon 4 • Techniques d'évaluation éthique qualitative

Couvre les panels d'experts, les équipes rouges d'éthique, les entretiens avec les parties prenantes et l'analyse de scénarios. Équilibre les mesures quantitatives avec le jugement humain contextuel.

Leçon 1 • Mesure de la maturité des programmes d'éthique

Présente les modèles de maturité pour les programmes d'éthique de l'IA et les indicateurs clés de performance pour les résultats éthiques. Les étudiants évaluent la maturité actuelle d'une organisation et fixent des objectifs d'amélioration.

Leçon 2 • Construire une culture d'entreprise éthique pour l'IA

Aborde les comportements de leadership, la sécurité psychologique et les structures d'incitation qui soutiennent une culture éthique. Les étudiants diagnostiquent les obstacles culturels et conçoivent des interventions ciblées.

Leçon 3 • Formation en éthique et développement des compétences

Conçoit des programmes de formation en éthique spécifiques aux rôles pour les ingénieurs, les chefs de produit et les dirigeants. Les étudiants créent une feuille de route de développement des compétences pour une organisation d'exemple.

Leçon 4 • Intégration de l'éthique dans les cycles de vie des produits

Intègre des points de contrôle éthiques dans les sprints agiles, les revues de conception et les jalons de lancement. Relie les méthodes d'évaluation du chapitre 7 aux workflows de développement de produits.