Lektion 1Åtkomstkontroller och rollbaserade behörigheter, minstprivilegier, övervakning av privilegierad åtkomstDenna sektion förklarar hur man utformar åtkomstkontroller och rollbaserade behörigheter för AI-system, tillämpar minstprivilegier och övervakar privilegierad åtkomst så att känslig data och administrativa funktioner förblir strikt styrda.
Defining AI-specific roles and permissionsImplementing least privilege for AI adminsStrong authentication for privileged usersSession recording and just-in-time accessPeriodic access review and recertificationLektion 2Loggning, revisionsspår och oföränderlig loggning för dataåtkomst och modellförfrågningarDenna sektion täcker loggningsstrategier för AI-system, inklusive detaljerade revisionsspår och oföränderliga loggar för dataåtkomst och modellförfrågningar, för undersökningar, ansvarighet och bevis för regulatoriska eller interna granskningar.
Defining AI logging scope and granularityCapturing user, admin, and system actionsImmutable logging and tamper resistanceLog minimization and pseudonymizationLog review, alerting, and investigationsLektion 3Dataminimering och förbehandling: tekniker för att minska PII innan sändning till LLMDenna sektion förklarar dataminimering och förbehandlingstekniker som minskar personuppgifter innan de skickas till AI-modeller, med rensning, aggregering och transformation för att sänka risker samtidigt som nyttan för affärsanvändningsfall bevaras.
Identifying unnecessary personal data fieldsRedaction and masking of free-text inputsAggregation and generalization techniquesEdge preprocessing before API submissionBalancing utility with minimization dutiesLektion 4Inmatningsfiltrering och promptteknik: ta bort känslig data, mönsterbaserad rensning, NLP-baserade klassificerareDenna sektion fokuserar på inmatningsfiltrering och promptteknik för att ta bort känslig data innan behandling, med mönsterbaserad rensning och NLP-klassificerare för att upptäcka riskfyllt innehåll och tillämpa organisationspolicyer vid gränsen.
Pattern-based scrubbing of identifiersNLP classifiers for sensitive categoriesPrompt templates that avoid PII captureReal-time input validation and blockingUser guidance and consent at input timeLektion 5Styrning: DPIA-integration, databearbetningsavtal (DPA), registeruppdateringar och ändringskontrollDenna sektion beskriver styrningsstrukturer för AI, inklusive integration av DPIA:er, hantering av databearbetningsavtal och underhåll av register och ändringskontroll så att systemändringar förblir transparenta, bedömda och efterlevande.
When and how to run AI-focused DPIAsKey DPA clauses for AI processingMaintaining records of processing for AIChange control for models and datasetsGovernance forums and approval workflowsLektion 6Pseudonymiserings- och tokeniseringsmetoder för fritextdata och strukturerade fältDenna sektion utforskar pseudonymiserings- och tokeniseringsstrategier för både fritext och strukturerad data, och visar hur man ersätter identifikatorer med reversibla eller irreversibla tokens samtidigt som re-identifierings- och nyckelseparationsrisker hanteras.
Pseudonymization versus anonymization limitsTokenization for structured identifiersHandling names and IDs in free-text dataKey and token vault management controlsRe-identification risk assessment methodsLektion 7Utdatafiltrering och efterbehandling: känslighetsdetektering, hallucinationsdetektering, konfidenspoängsättningDenna sektion täcker mekanismer som inspekterar och justerar AI-utdata för att upptäcka känslig data, identifiera hallucinationer och tillämpa konfidenspoängsättning så att riskfyllda svar blockeras, flaggas eller dirigeras för granskning innan de når slutanvändare.
Detecting personal and sensitive data in model outputsHallucination detection rules and model ensemblesDesigning confidence scores and thresholdsHuman review workflows for risky responsesUser feedback loops to refine output filtersLektion 8Bevarandeprinciper, automatisk radering och säkerhetskopiabevarande i linje med syftesbegränsningDenna sektion förklarar hur man definierar bevarandeplaner för AI-data, konfigurerar automatisk radering och alignar säkerhetskopior med syftesbegränsning så att träningsdata, loggar och prompts inte lagras längre än nödvändigt eller används oförenligt.
Mapping data categories to retention periodsAutomated deletion of prompts and logsBackup retention and restore testingHandling legal holds and exceptionsDocumenting retention decisions for auditsLektion 9Sandboxning och ratbegränsning av API-anrop; strypning, förfrågansvalidering och köandeDenna sektion förklarar hur man isolerar AI-tjänster, kontrollerar trafikvolym och validerar inkommande förfrågningar med sandboxning, ratbegränsningar, strypning och köande så att systemen förblir stabila, säkra och motståndskraftiga mot missbruk eller nekad tjänst.
Designing API rate limits and burst controlsSandbox environments for testing AI featuresRequest validation and schema enforcementQueueing strategies for high-volume workloadsAbuse detection and automated blocking rulesLektion 10Leverantörsdue diligence: säkerhetsenkäter, SOC/ISO-rapporter, krav på penetrationstestningDenna sektion beskriver hur man utvärderar AI-leverantörer med strukturerad due diligence, inklusive säkerhetsenkäter, SOC- och ISO-rapporter samt krav på penetrationstestning, för att säkerställa att biträden möter rättsliga, säkerhets- och motståndskraftekrav.
Building AI-specific security questionnairesReviewing SOC 2, ISO 27001, and similar reportsPenetration testing scope for AI integrationsAssessing data residency and subcontractorsOngoing vendor monitoring and reassessmentLektion 11Operativa åtgärder: personalutbildning, integritet-i-design, incidenthanteringsplaybooks, procedurer för brottnotifieringDenna sektion fokuserar på operativa skyddsåtgärder som personalutbildning, integritet i design, incidenthanteringsplaybooks och procedurer för brottnotifiering som säkerställer att AI-verksamhet förblir efterlevande, motståndskraftig och väl dokumenterad.
AI-specific security and privacy trainingEmbedding privacy by design in AI projectsIncident detection and triage for AI systemsAI incident response and communication plansBreach notification timelines and contentLektion 12Kryptering i transit och i vila; nyckelhantering och envelopkryptering för modellinmatning/utdataDenna sektion täcker kryptering i transit och i vila för AI-data, inklusive nyckelhantering och envelopkryptering för prompts, utdata och loggar som skyddar samtidigt som åtkomstkontroll, rotation och regulatoriska krav stöds.
TLS configuration for AI APIs and servicesDisk, database, and object storage encryptionEnvelope encryption for prompts and outputsKey lifecycle, rotation, and segregationHSMs and cloud KMS integration options
