Pelajaran 1Kawalan akses dan kebenaran berasaskan peranan, hak istimewa paling kurang, pemantauan akses istimewaBahagian ini menerangkan cara mereka bentuk kawalan akses dan kebenaran berasaskan peranan untuk sistem AI, melaksanakan hak istimewa paling kurang, dan memantau akses istimewa supaya data sensitif dan fungsi pentadbiran kekal di bawah tadbir urus ketat.
Defining AI-specific roles and permissionsImplementing least privilege for AI adminsStrong authentication for privileged usersSession recording and just-in-time accessPeriodic access review and recertificationPelajaran 2Log, jejak audit, dan log tidak boleh diubah untuk akses data dan rekod pertanyaan modelBahagian ini meliputi strategi log untuk sistem AI, termasuk jejak audit terperinci dan log tidak boleh diubah untuk akses data dan rekod pertanyaan model, membolehkan penyiasatan, akauntabiliti, dan bukti untuk semakan peraturan atau dalaman.
Defining AI logging scope and granularityCapturing user, admin, and system actionsImmutable logging and tamper resistanceLog minimization and pseudonymizationLog review, alerting, and investigationsPelajaran 3Penyerendahan data dan pra-pemprosesan: teknik untuk mengurangkan PII sebelum hantar ke LLMBahagian ini menerangkan teknik penyerendahan data dan pra-pemprosesan yang mengurangkan data peribadi sebelum dihantar ke model AI, menggunakan pemotongan, agregasi, dan transformasi untuk menurunkan risiko sambil mengekalkan kegunaan untuk kes penggunaan perniagaan.
Identifying unnecessary personal data fieldsRedaction and masking of free-text inputsAggregation and generalization techniquesEdge preprocessing before API submissionBalancing utility with minimization dutiesPelajaran 4Penapisan input dan kejuruteraan prompt: mengalih keluar data sensitif, penapisan berasaskan corak, pengelasan berasaskan NLPBahagian ini memberi tumpuan kepada penapisan input dan kejuruteraan prompt untuk mengalih keluar data sensitif sebelum pemprosesan, menggunakan penapisan berasaskan corak dan pengelasan NLP untuk mengesan kandungan berisiko dan melaksanakan dasar organisasi di sempadan.
Pattern-based scrubbing of identifiersNLP classifiers for sensitive categoriesPrompt templates that avoid PII captureReal-time input validation and blockingUser guidance and consent at input timePelajaran 5Tadbir urus: integrasi DPIA, Perjanjian Pemprosesan Data (DPA), kemas kini rekod dan kawalan perubahanBahagian ini menerangkan struktur tadbir urus untuk AI, termasuk mengintegrasikan DPIA, mengurus Perjanjian Pemprosesan Data, dan menyelenggara rekod dan kawalan perubahan supaya pengubahsuaian sistem kekal lutsinar, dinilai, dan patuh.
When and how to run AI-focused DPIAsKey DPA clauses for AI processingMaintaining records of processing for AIChange control for models and datasetsGovernance forums and approval workflowsPelajaran 6Pendekatan pseudonimisasi dan tokenisasi untuk data teks bebas dan medan berstrukturBahagian ini meneroka strategi pseudonimisasi dan tokenisasi untuk teks bebas dan medan berstruktur, menunjukkan cara menggantikan pengenalan dengan token boleh dibalik atau tidak boleh dibalik sambil mengurus risiko pengenalpastian semula dan pemisahan kunci.
Pseudonymization versus anonymization limitsTokenization for structured identifiersHandling names and IDs in free-text dataKey and token vault management controlsRe-identification risk assessment methodsPelajaran 7Penapisan output dan pasca-pemprosesan: pengesanan sensitiviti, pengesanan halusinasi, penilaian keyakinanBahagian ini meliputi mekanisme yang memeriksa dan melaraskan output AI untuk mengesan data sensitif, mengenal pasti halusinasi, dan menerapkan penilaian keyakinan supaya respons berisiko disekat, ditandakan, atau dihantar untuk semakan sebelum sampai ke pengguna akhir.
Detecting personal and sensitive data in model outputsHallucination detection rules and model ensemblesDesigning confidence scores and thresholdsHuman review workflows for risky responsesUser feedback loops to refine output filtersPelajaran 8Dasar pengekalan, pemadaman automatik, dan penyelarasan pengekalan sandaran dengan had tujuanBahagian ini menerangkan cara mendefinisikan jadual pengekalan untuk data AI, menyediakan pemadaman automatik, dan menyelaraskan sandaran dengan had tujuan supaya data latihan, log, dan prompt tidak disimpan lebih lama daripada yang perlu atau digunakan secara tidak serasi.
Mapping data categories to retention periodsAutomated deletion of prompts and logsBackup retention and restore testingHandling legal holds and exceptionsDocumenting retention decisions for auditsPelajaran 9Pengasingan dan had kadar panggilan API; sekatan, pengesahan permintaan, dan berperingkatBahagian ini menerangkan cara mengasingkan perkhidmatan AI, mengawal isipadu trafik, dan mengesahkan permintaan masuk menggunakan pengasingan, had kadar, sekatan, dan berperingkat supaya sistem kekal stabil, selamat, dan tahan terhadap penyalahgunaan atau penafian perkhidmatan.
Designing API rate limits and burst controlsSandbox environments for testing AI featuresRequest validation and schema enforcementQueueing strategies for high-volume workloadsAbuse detection and automated blocking rulesPelajaran 10Due diligence penjual: soal selidik keselamatan, laporan SOC/ISO, keperluan ujian penembusanBahagian ini mengperincikan cara menilai penjual AI menggunakan due diligence berstruktur, termasuk soal selidik keselamatan, laporan SOC dan ISO, dan keperluan ujian penembusan, memastikan pemproses memenuhi jangkaan undang-undang, keselamatan, dan ketahanan.
Building AI-specific security questionnairesReviewing SOC 2, ISO 27001, and similar reportsPenetration testing scope for AI integrationsAssessing data residency and subcontractorsOngoing vendor monitoring and reassessmentPelajaran 11Langkah operasi: latihan kakitangan, privasi-by-design, buku panduan tindak balas insiden, prosedur pemberitahuan pelanggaranBahagian ini memberi tumpuan kepada perlindungan operasi seperti latihan kakitangan, amalan privasi-by-design, buku panduan tindak balas insiden, dan prosedur pemberitahuan pelanggaran yang memastikan operasi AI kekal patuh, tahan lasak, dan didokumentasikan dengan baik.
AI-specific security and privacy trainingEmbedding privacy by design in AI projectsIncident detection and triage for AI systemsAI incident response and communication plansBreach notification timelines and contentPelajaran 12Penyulitan dalam pemindahan dan rehat; pengurusan kunci dan penyulitan sampul untuk input/output modelBahagian ini meliputi penyulitan dalam pemindahan dan rehat untuk data AI, termasuk pengurusan kunci dan corak penyulitan sampul yang melindungi prompt, output, dan log sambil menyokong kawalan akses, putaran, dan jangkaan peraturan.
TLS configuration for AI APIs and servicesDisk, database, and object storage encryptionEnvelope encryption for prompts and outputsKey lifecycle, rotation, and segregationHSMs and cloud KMS integration options
