Leçon 1Contrats fournisseurs et clients pour fonctionnalités IA : accords de traitement des données, co-responsabilité, allocation de responsabilité et exigences de sécuritéCette section explique comment structurer les contrats fournisseurs et clients pour les fonctionnalités IA, en se concentrant sur les accords de traitement des données, la co-responsabilité, l'allocation de responsabilité et les clauses de sécurité reflétant les exigences réglementaires et éthiques.
Définition des rôles de responsable et sous-traitantClauses clés des accords de traitement des donnéesCo-responsabilité et devoirs partagésLimites de responsabilité, indemnités et assuranceObligations de sécurité et réponse aux incidentsDroits d'audit, surveillance et résiliationLeçon 2Régimes fondamentaux de protection des données et obligations pertinentes pour l'IA (principes : limitation des finalités, minimisation des données, base légale, transparence)Cette section passe en revue les régimes fondamentaux de protection des données pertinents pour l'IA, en mettant l'accent sur les principes tels que la limitation des finalités, la minimisation des données, la base légale et la transparence, et comment les opérationnaliser dans le développement et le déploiement de l'IA.
Limitation des finalités dans l'entraînement et l'utilisation de l'IAMinimisation des données et sélection des fonctionnalitésChoix et documentation des bases légalesTransparence et avis significatifsPrécision, limites de stockage et intégritéResponsabilité et structures de gouvernanceLeçon 3Évaluations d'impact sur la protection des données (EIPD) / Évaluations d'impact IA (EIA) : structure, questions clés et plans de remédiationCette section explique comment concevoir et mener des EIPD et EIA, de la définition à l'identification des risques, en passant par l'engagement des parties prenantes, la documentation et la planification de la remédiation, pour assurer que les systèmes IA répondent aux attentes légales, éthiques et organisationnelles.
Définition des systèmes IA et activités de traitementIdentification des parties prenantes et groupes affectésCatalogage des risques pour les droits et libertésConception de plans d'atténuation et de remédiationDocumentation des résultats et validationIntégration des EIPD dans le cycle de vie du produitLeçon 4Équité algorithmique et biais : sources de biais, méthodes de mesure et techniques d'atténuationCette section analyse les biais algorithmiques et l'équité en IA, expliquant les sources de biais, les métriques d'équité et les stratégies d'atténuation dans les données, la modélisation et le déploiement, avec attention aux attentes légales dans les environnements réglementaires stricts.
Types et sources de biais algorithmiquesMétriques d'équité et compromisBiais dans la collecte et l'étiquetage des donnéesStratégies d'entraînement et d'évaluation des modèlesAtténuation pendant le déploiement et la surveillanceDocumentation des décisions d'équitéLeçon 5Guides opérationnels pour les revues de conformité des produits et escalade interfonctionnelle (Produit, Juridique, Confidentialité, Conformité)Cette section fournit des guides pratiques pour les revues de conformité des produits, définissant les rôles, flux de travail et voies d'escalade parmi les équipes Produit, Juridique, Confidentialité et Conformité pour gérer les risques IA et documenter des décisions défendables.
Réception et triage des changements de produits IANiveaux et critères de revue basés sur les risquesRôles des équipes Produit, Juridique, Confidentialité, ConformitéVoies d'escalade pour cas d'utilisation IA à haut risqueDocumentation des décisions et enregistrements d'approbationBoucles de rétroaction dans les feuilles de route produitsLeçon 6Gestion des risques de modèles pour fonctionnalités IA : documentation (fiches modèles), validation, tests, surveillance des performances et explicabilitéCette section couvre la gestion des risques de modèles pour les fonctionnalités IA, incluant documentation, validation, tests, surveillance et explicabilité, alignant la gouvernance des modèles sur les attentes réglementaires et les cadres d'appétit au risque internes.
Inventaire et classification des modèlesStandards de fiches modèles et documentationValidation et défi indépendantSurveillance des performances, dérive et stabilitéMéthodes d'explicabilité et limitationsGestion des changements de modèles et mise hors serviceLeçon 7Cadres éthiques pour les décisions IA : cartographie des parties prenantes, proportionnalité, contestabilité, surveillance humaine et mécanismes de recoursCette section introduit les cadres éthiques pour la prise de décision IA, couvrant la cartographie des parties prenantes, la proportionnalité, la contestabilité, la surveillance humaine et le recours, et montre comment intégrer ces principes dans les processus de gouvernance et de conception de produits.
Cartographie des parties prenantes et impacts pour l'IAÉvaluations de proportionnalité et nécessitéConception de canaux de contestabilité et d'appelModèles humain-dans-la-boucle et sur-la-boucleMécanismes de recours et remède pour préjudicesIntégration des revues éthiques dans la gouvernanceLeçon 8Conception préservant la confidentialité : minimisation des données, confidentialité différentielle, anonymisation, pseudonymisation et bases du calcul multipartite sécuriséCette section explore les stratégies de conception préservant la confidentialité pour l'IA, incluant minimisation des données, anonymisation, pseudonymisation, confidentialité différentielle et calcul multipartite sécurisé, avec conseils sur les cas d'utilisation et compromis d'implémentation.
Minimisation des données dans la conception de fonctionnalités IAAnonymisation et risques de ré-identificationMéthodes de pseudonymisation et tokenisationConfidentialité différentielle pour analyses et MLBases du calcul multipartite sécuriséSélection de techniques de confidentialité appropriéesLeçon 9Contrôles techniques : contrôle d'accès, journalisation, chiffrement, politiques de rétention et cycle de développement sécurisé (SDLC) pour MLCette section détaille les sauvegardes techniques pour les systèmes IA, incluant contrôle d'accès, journalisation, chiffrement, rétention et développement ML sécurisé, montrant comment les choix d'ingénierie soutiennent la conformité réglementaire et la réduction des risques éthiques.
Contrôle d'accès basé sur les rôles et attributsConception de journalisation de sécurité et piste d'auditChiffrement en transit et au repos pour données IAAutomatisation de la rétention et suppression des donnéesCodage sécurisé et revue de code pour MLTests de sécurité et durcissement des services IALeçon 10Évaluation des bases légales et limites du consentement pour la surveillance en milieu de travail et traitement des données des employésCette section examine les bases légales et limites du consentement pour la surveillance en milieu de travail et les données des employés, abordant les outils de surveillance, devoirs de transparence, déséquilibres de pouvoir et sauvegardes protégeant la dignité et les droits du travail.
Scénarios courants de surveillance en milieu de travailÉvaluation de l'intérêt légitime et de la nécessitéLimites du consentement en contexte d'emploiTransparence et devoirs d'information des travailleursSauvegardes pour technologies de surveillanceEngagement des comités d'entreprise et syndicatsLeçon 11Tendances réglementaires dans les juridictions à forte régulation et voies de conformité pour produits IA novateursCette section passe en revue les tendances réglementaires dans les juridictions à forte régulation, esquissant les lois IA émergentes, orientations et schémas d'exécution, et cartographiant les voies pratiques de conformité pour produits IA novateurs et opérations transfrontalières.
Aperçu des principaux régimes réglementaires IARègles et orientations IA spécifiques aux secteursAttentes de supervision et exécutionBacs à sable réglementaires et hubs d'innovationConception de programmes de conformité basés sur les risquesProblèmes de conformité transfrontalière pour données et IALeçon 12Cadres des droits humains applicables aux données et IA : Principes directeurs des Nations Unies, RGPD comme modèle basé sur les droits et implications nationales des droits humainsCette section relie le droit des droits humains à la gouvernance des données et IA, expliquant les Principes directeurs des Nations Unies, l'approche basée sur les droits du RGPD et comment les devoirs nationaux des droits humains façonnent les responsabilités corporatives pour la conception et le déploiement IA.
Principes directeurs des Nations Unies et devoirs corporatifsRGPD comme modèle réglementaire basé sur les droitsLois nationales des droits humains affectant l'IARisques saillants des droits humains dans l'utilisation IADue diligence des droits humains pour l'IAAttentes de recours et responsabilité
