Lección 1Contratos con proveedores y clientes para funciones de IA: acuerdos de procesamiento de datos, copresponsabilidad, asignación de responsabilidad y requisitos de seguridadEsta sección explica cómo estructurar contratos con proveedores y clientes para funciones de IA, centrándose en acuerdos de procesamiento de datos, copresponsabilidad, asignación de responsabilidad y cláusulas de seguridad que reflejan requisitos regulatorios y éticos.
Definición de roles de responsable y encargadoCláusulas clave de acuerdos de procesamiento de datosCopresponsabilidad y deberes compartidosLímites de responsabilidad, indemnizaciones y segurosObligaciones de seguridad y respuesta a incidentesDerechos de auditoría, supervisión y terminaciónLección 2Régimenes fundamentales de protección de datos y obligaciones relevantes para IA (principios: limitación de propósito, minimización de datos, base legal, transparencia)Esta sección revisa regímenes fundamentales de protección de datos relevantes para IA, enfatizando principios como limitación de propósito, minimización de datos, base legal y transparencia, y cómo operacionalizarlos en desarrollo y despliegue de IA.
Limitación de propósito en entrenamiento y uso de IAMinimización de datos y selección de característicasElección y documentación de bases legalesTransparencia y notificaciones significativasPrecisión, límites de almacenamiento e integridadResponsabilidad y estructuras de gobernanzaLección 3Evaluaciones de Impacto en Protección de Datos (EPIAD) / Evaluaciones de Impacto en IA (EIA): estructura, preguntas clave y planes de remediaciónEsta sección explica cómo diseñar y ejecutar EPIAD y EIA, desde el alcance e identificación de riesgos hasta compromiso con stakeholders, documentación y planificación de remediación, asegurando que los sistemas de IA cumplan expectativas legales, éticas y organizacionales.
Alcance de sistemas de IA y actividades de procesamientoIdentificación de stakeholders y grupos afectadosCatálogo de riesgos a derechos y libertadesDiseño de planes de mitigación y remediaciónDocumentación de resultados y aprobaciónIntegración de EPIAD en el ciclo de vida del productoLección 4Equidad algorítmica y sesgo: fuentes de sesgo, métodos de medición y técnicas de mitigaciónEsta sección analiza sesgo algorítmico y equidad en IA, explicando fuentes de sesgo, métricas de equidad y estrategias de mitigación en datos, modelado y despliegue, con atención a expectativas legales en entornos regulatorios estrictos.
Tipos y fuentes de sesgo algorítmicoMétricas de equidad y compensacionesSesgo en recopilación y etiquetado de datosEstrategias de entrenamiento y evaluación de modelosMitigación durante despliegue y monitoreoDocumentación de decisiones de equidadLección 5Guías operativas para revisiones de cumplimiento de productos y escalada multifuncional (Producto, Legal, Privacidad, Cumplimiento)Esta sección proporciona guías prácticas para revisiones de cumplimiento de productos, definiendo roles, flujos de trabajo y vías de escalada entre equipos de Producto, Legal, Privacidad y Cumplimiento para gestionar riesgos de IA y documentar decisiones defendibles.
Admisión y triaje de cambios en productos de IANiveles y criterios de revisión basados en riesgosRoles de Producto, Legal, Privacidad, CumplimientoVías de escalada para casos de uso de IA de alto riesgoDocumentación de decisiones y registros de aprobaciónBucles de retroalimentación en roadmaps de productosLección 6Gestión de riesgos de modelos para funciones de IA: documentación (tarjetas de modelo), validación, pruebas, monitoreo de rendimiento y explicabilidadEsta sección cubre gestión de riesgos de modelos para funciones de IA, incluyendo documentación, validación, pruebas, monitoreo y explicabilidad, alineando gobernanza de modelos con expectativas regulatorias y marcos internos de apetito de riesgo.
Inventario y clasificación de modelosEstándares de tarjetas de modelo y documentaciónValidación y desafío independienteMonitoreo de rendimiento, deriva y estabilidadMétodos y limitaciones de explicabilidadGestión de cambios de modelos y desmantelamientoLección 7Marcos éticos para decisiones de IA: mapeo de stakeholders, proporcionalidad, disputabilidad, supervisión humana y mecanismos de rectificaciónEsta sección introduce marcos éticos para toma de decisiones de IA, cubriendo mapeo de stakeholders, proporcionalidad, disputabilidad, supervisión humana y rectificación, y muestra cómo incorporarlos en procesos de gobernanza y diseño de productos.
Mapeo de stakeholders e impacto para IAEvaluaciones de proporcionalidad y necesidadDiseño de canales de disputabilidad y apelaciónModelos con humano en el bucle y sobre el bucleMecanismos de rectificación y remedio por dañosIncorporación de revisiones éticas en gobernanzaLección 8Diseño preservador de privacidad: minimización de datos, privacidad diferencial, anonimización, pseudonimización y fundamentos de cómputo multiparte seguroEsta sección explora estrategias de diseño preservador de privacidad para IA, incluyendo minimización de datos, anonimización, pseudonimización, privacidad diferencial y cómputo multiparte seguro, con orientación sobre casos de uso y compensaciones de implementación.
Minimización de datos en diseño de funciones de IAAnonimización y riesgos de reidentificaciónMétodos de pseudonimización y tokenizaciónPrivacidad diferencial para analítica y MLFundamentos de cómputo multiparte seguroSelección de técnicas de privacidad apropiadasLección 9Controles técnicos: control de acceso, registro, cifrado, políticas de retención y ciclo de vida de desarrollo seguro (SDLC) para MLEsta sección detalla salvaguardas técnicas para sistemas de IA, incluyendo control de acceso, registro, cifrado, retención y desarrollo seguro de ML, mostrando cómo las elecciones de ingeniería apoyan cumplimiento regulatorio y reducción de riesgos éticos.
Control de acceso basado en roles y atributosDiseño de registro de seguridad y rastro de auditoríaCifrado en tránsito y en reposo para datos de IAAutomatización de retención y eliminación de datosCodificación segura y revisión de código para MLPruebas de seguridad y endurecimiento de servicios de IALección 10Evaluación de bases legales y límites de consentimiento para vigilancia laboral y procesamiento de datos de empleadosEsta sección examina bases legales y límites de consentimiento para vigilancia laboral y datos de empleados, abordando herramientas de monitoreo, deberes de transparencia, desequilibrios de poder y salvaguardas para proteger dignidad y derechos laborales.
Escenarios comunes de vigilancia laboralEvaluación de interés legítimo y necesidadLímites de consentimiento en contextos laboralesTransparencia y deberes de información a trabajadoresSalvaguardas para tecnologías de monitoreoCompromiso con comités de empresa y sindicatosLección 11Tendencias regulatorias en jurisdicciones de alta regulación y vías de cumplimiento para productos de IA novedososEsta sección repasa tendencias regulatorias en jurisdicciones de alta regulación, delineando leyes emergentes de IA, guías y patrones de cumplimiento, y mapeando vías prácticas de cumplimiento para productos de IA novedosos y operaciones transfronterizas.
Visión general de regímenes regulatorios de IA principalesReglas y guías específicas de IA por sectorExpectativas supervisoras y cumplimientoCajas de arena regulatorias y centros de innovaciónDiseño de programas de cumplimiento basados en riesgosProblemas de cumplimiento transfronterizo de datos e IALección 12Marcos de derechos humanos aplicables a datos e IA: Principios Rectores de la ONU, RGPD como modelo basado en derechos e implicaciones nacionales de derechos humanosEsta sección vincula el derecho de derechos humanos a la gobernanza de datos e IA, explicando los Principios Rectores de la ONU, el enfoque basado en derechos del RGPD y cómo los deberes nacionales de derechos humanos moldean responsabilidades corporativas para diseño y despliegue de IA.
Principios Rectores de la ONU y deberes corporativosRGPD como modelo regulatorio basado en derechosLeyes nacionales de derechos humanos que afectan a IARiesgos salientes de derechos humanos en uso de IADiligencia debida de derechos humanos para IAExpectativas de remedio y responsabilidad
