Leson 1Contrats fournisseurs et clients pour fonctionnalités IA : accords de traitement des données, co-responsabilité, allocation de responsabilité et exigences de sécuritéCette section explique comment structurer les contrats fournisseurs et clients pour les fonctionnalités IA, en se concentrant sur les accords de traitement des données, la co-responsabilité, l'allocation de responsabilité et les clauses de sécurité reflétant les exigences réglementaires et éthiques.
Définition des rôles de responsable et sous-traitantClauses clés des accords de traitement des donnéesCo-responsabilité et devoirs partagésLimites de responsabilité, indemnités et assuranceObligations de sécurité et réponse aux incidentsDroits d'audit, surveillance et résiliationLeson 2Régimes fondamentaux de protection des données et obligations pertinentes pour l'IA (principes : limitation des finalités, minimisation des données, base légale, transparence)Cette section passe en revue les régimes fondamentaux de protection des données pertinents pour l'IA, en mettant l'accent sur les principes tels que la limitation des finalités, la minimisation des données, la base légale et la transparence, et comment les opérationnaliser dans le développement et le déploiement de l'IA.
Limitation des finalités dans l'entraînement et l'utilisation de l'IAMinimisation des données et sélection des fonctionnalitésChoix et documentation des bases légalesTransparence et notifications significativesExactitude, limites de conservation et intégritéResponsabilité et structures de gouvernanceLeson 3Évaluations d'impact protection des données (EIPD) / Évaluations d'impact IA (EIA) : structure, questions clés et plans de remédiationCette section explique comment concevoir et mener des EIPD et EIA, de la définition de la portée et identification des risques à l'engagement des parties prenantes, la documentation et la planification de la remédiation, assurant que les systèmes IA répondent aux attentes légales, éthiques et organisationnelles.
Définition de la portée des systèmes IA et activités de traitementIdentification des parties prenantes et groupes affectésCatalogue des risques pour les droits et libertésConception de plans d'atténuation et de remédiationDocumentation des résultats et validationIntégration des EIPD dans le cycle de vie du produitLeson 4Équité algorithmique et biais : sources de biais, méthodes de mesure et techniques d'atténuationCette section analyse le biais algorithmique et l'équité en IA, expliquant les sources de biais, les métriques d'équité et les stratégies d'atténuation dans les données, la modélisation et le déploiement, avec attention aux attentes légales dans les environnements réglementaires stricts.
Types et sources de biais algorithmiquesMétriques d'équité et compromisBiais dans la collecte et l'étiquetage des donnéesStratégies d'entraînement et d'évaluation des modèlesAtténuation lors du déploiement et de la surveillanceDocumentation des décisions d'équitéLeson 5Guides opérationnels pour les revues de conformité produit et escalade interfonctionnelle (Produit, Juridique, Confidentialité, Conformité)Cette section fournit des guides pratiques pour les revues de conformité produit, définissant les rôles, flux de travail et voies d'escalade parmi les équipes Produit, Juridique, Confidentialité et Conformité pour gérer les risques IA et documenter des décisions défendables.
Réception et tri des changements de produits IANiveaux et critères de revue basés sur les risquesRôles des équipes Produit, Juridique, Confidentialité, ConformitéVoies d'escalade pour cas d'utilisation IA à haut risqueDocumentation des décisions et enregistrements d'approbationBoucles de rétroaction dans les feuilles de route produitLeson 6Gestion des risques de modèles pour fonctionnalités IA : documentation (fiches modèles), validation, tests, surveillance des performances et explicabilitéCette section couvre la gestion des risques de modèles pour les fonctionnalités IA, incluant documentation, validation, tests, surveillance et explicabilité, alignant la gouvernance des modèles avec les attentes réglementaires et les cadres d'appétit au risque internes.
Inventaire et classification des modèlesFiches modèles et normes de documentationValidation et défi indépendantSurveillance des performances, dérive et stabilitéMéthodes et limites d'explicabilitéGestion des changements de modèles et mise hors serviceLeson 7Cadres éthiques pour décisions IA : cartographie des parties prenantes, proportionnalité, contestabilité, surveillance humaine et mécanismes de recoursCette section introduit les cadres éthiques pour la prise de décision IA, couvrant la cartographie des parties prenantes, la proportionnalité, la contestabilité, la surveillance humaine et le recours, et montre comment intégrer ces principes dans les processus de gouvernance et de conception produit.
Cartographie des parties prenantes et impacts pour l'IAÉvaluations de proportionnalité et nécessitéConception de canaux de contestabilité et d'appelModèles humain dans la boucle et sur la boucleMécanismes de recours et remède pour préjudicesIntégration des revues éthiques dans la gouvernanceLeson 8Conception préservant la confidentialité : minimisation des données, confidentialité différentielle, anonymisation, pseudonymisation et bases de calcul multiparti sécuriséCette section explore les stratégies de conception préservant la confidentialité pour l'IA, incluant minimisation des données, anonymisation, pseudonymisation, confidentialité différentielle et calcul multiparti sécurisé, avec conseils sur les cas d'utilisation et compromis d'implémentation.
Minimisation des données dans la conception de fonctionnalités IAAnonymisation et risques de ré-identificationMéthodes de pseudonymisation et tokenisationConfidentialité différentielle pour analyses et MLBases du calcul multiparti sécuriséSélection de techniques de confidentialité appropriéesLeson 9Contrôles techniques : contrôle d'accès, journalisation, chiffrement, politiques de conservation et cycle de développement sécurisé (SDLC) pour MLCette section détaille les sauvegardes techniques pour les systèmes IA, incluant contrôle d'accès, journalisation, chiffrement, conservation et développement ML sécurisé, montrant comment les choix d'ingénierie soutiennent la conformité réglementaire et la réduction des risques éthiques.
Contrôle d'accès basé sur les rôles et attributsConception de journalisation de sécurité et piste d'auditChiffrement en transit et au repos pour données IAAutomatisation de la conservation et suppression des donnéesCodage sécurisé et revue de code pour MLTests de sécurité et durcissement des services IALeson 10Évaluation des bases légales et limites du consentement pour la surveillance en milieu de travail et traitement des données des employésCette section examine les bases légales et limites du consentement pour la surveillance en milieu de travail et les données des employés, abordant les outils de surveillance, devoirs de transparence, déséquilibres de pouvoir et sauvegardes protégeant la dignité et les droits du travail.
Scénarios courants de surveillance en milieu de travailÉvaluation de l'intérêt légitime et de la nécessitéLimites du consentement en contexte d'emploiTransparence et devoirs d'information des travailleursSauvegardes pour technologies de surveillanceEngagement des comités d'entreprise et syndicatsLeson 11Tendances réglementaires dans les juridictions à forte régulation et voies de conformité pour produits IA novateursCette section passe en revue les tendances réglementaires dans les juridictions à forte régulation, esquissant les lois IA émergentes, orientations et schémas d'exécution, et cartographiant les voies pratiques de conformité pour produits IA novateurs et opérations transfrontalières.
Aperçu des principaux régimes réglementaires IARègles et orientations IA spécifiques aux secteursAttentes de supervision et exécutionSable réglementaires et hubs d'innovationConception de programmes de conformité basés sur les risquesProblèmes de conformité transfrontalière données et IALeson 12Cadres des droits humains applicables aux données et IA : Principes directeurs de l'ONU, RGPD comme modèle basé sur les droits, et implications nationales des droits humainsCette section lie le droit des droits humains à la gouvernance des données et IA, expliquant les Principes directeurs de l'ONU, l'approche basée sur les droits du RGPD, et comment les devoirs nationaux des droits humains façonnent les responsabilités corporatives pour la conception et le déploiement IA.
Principes directeurs de l'ONU et devoirs corporatifsRGPD comme modèle réglementaire basé sur les droitsLois nationales des droits humains affectant l'IARisques saillants des droits humains dans l'utilisation IADue diligence des droits humains pour l'IAAttentes de recours et responsabilité
