Pelajaran 1Kontrol akses dan izin berbasis peran, hak istimewa minimal, pemantauan akses istimewaBagian ini menjelaskan cara merancang kontrol akses dan izin berbasis peran untuk sistem AI, menerapkan hak istimewa minimal, dan memantau akses istimewa agar data sensitif dan fungsi administratif tetap diatur ketat.
Defining AI-specific roles and permissionsImplementing least privilege for AI adminsStrong authentication for privileged usersSession recording and just-in-time accessPeriodic access review and recertificationPelajaran 2Pencatatan, jejak audit, dan pencatatan tidak berubah untuk catatan akses data dan kueri modelBagian ini mencakup strategi pencatatan untuk sistem AI, termasuk jejak audit terperinci dan log tidak berubah untuk akses data dan kueri model, memungkinkan investigasi, akuntabilitas, dan bukti untuk tinjauan regulasi atau internal.
Defining AI logging scope and granularityCapturing user, admin, and system actionsImmutable logging and tamper resistanceLog minimization and pseudonymizationLog review, alerting, and investigationsPelajaran 3Minimisasi data dan pra-pemrosesan: teknik untuk mengurangi PII sebelum dikirim ke LLMBagian ini menjelaskan teknik minimisasi data dan pra-pemrosesan yang mengurangi data pribadi sebelum dikirim ke model AI, menggunakan redaksi, agregasi, dan transformasi untuk menurunkan risiko sambil mempertahankan utilitas untuk kasus penggunaan bisnis.
Identifying unnecessary personal data fieldsRedaction and masking of free-text inputsAggregation and generalization techniquesEdge preprocessing before API submissionBalancing utility with minimization dutiesPelajaran 4Penyaringan masukan dan rekayasa prompt: menghapus data sensitif, scrubbing berbasis pola, klasifier berbasis NLPBagian ini berfokus pada penyaringan masukan dan rekayasa prompt untuk menghapus data sensitif sebelum pemrosesan, menggunakan scrubbing berbasis pola dan klasifier NLP untuk mendeteksi konten berisiko dan menerapkan kebijakan organisasi di batas.
Pattern-based scrubbing of identifiersNLP classifiers for sensitive categoriesPrompt templates that avoid PII captureReal-time input validation and blockingUser guidance and consent at input timePelajaran 5Tata kelola: integrasi DPIA, Perjanjian Pemrosesan Data (DPA), pembaruan catatan dan kontrol perubahanBagian ini menggambarkan struktur tata kelola untuk AI, termasuk mengintegrasikan DPIA, mengelola Perjanjian Pemrosesan Data, dan mempertahankan catatan serta kontrol perubahan agar modifikasi sistem tetap transparan, dinilai, dan patuh.
When and how to run AI-focused DPIAsKey DPA clauses for AI processingMaintaining records of processing for AIChange control for models and datasetsGovernance forums and approval workflowsPelajaran 6Pendekatan pseudonymisasi dan tokenisasi untuk data teks bebas dan bidang terstrukturBagian ini mengeksplorasi strategi pseudonymisasi dan tokenisasi untuk data teks bebas dan bidang terstruktur, menunjukkan cara mengganti pengenal dengan token yang dapat dibalik atau tidak dapat dibalik sambil mengelola risiko re-identifikasi dan pemisahan kunci.
Pseudonymization versus anonymization limitsTokenization for structured identifiersHandling names and IDs in free-text dataKey and token vault management controlsRe-identification risk assessment methodsPelajaran 7Penyaringan output dan pasca-pemrosesan: deteksi sensitivitas, deteksi halusinasi, penilaian kepercayaanBagian ini mencakup mekanisme yang memeriksa dan menyesuaikan output AI untuk mendeteksi data sensitif, mengidentifikasi halusinasi, dan menerapkan penilaian kepercayaan agar respons berisiko diblokir, ditandai, atau dirutekan untuk tinjauan sebelum mencapai pengguna akhir.
Detecting personal and sensitive data in model outputsHallucination detection rules and model ensemblesDesigning confidence scores and thresholdsHuman review workflows for risky responsesUser feedback loops to refine output filtersPelajaran 8Kebijakan retensi, penghapusan otomatis, dan penyelarasan retensi cadangan dengan pembatasan tujuanBagian ini menjelaskan cara mendefinisikan jadwal retensi untuk data AI, mengonfigurasi penghapusan otomatis, dan menyelaraskan cadangan dengan pembatasan tujuan agar data pelatihan, log, dan prompt tidak disimpan lebih lama dari yang diperlukan atau digunakan secara tidak kompatibel.
Mapping data categories to retention periodsAutomated deletion of prompts and logsBackup retention and restore testingHandling legal holds and exceptionsDocumenting retention decisions for auditsPelajaran 9Sandboxing dan pembatasan laju panggilan API; throttling, validasi permintaan, dan antreanBagian ini menjelaskan cara mengisolasi layanan AI, mengontrol volume lalu lintas, dan memvalidasi permintaan masuk menggunakan sandboxing, batas laju, throttling, dan antrean agar sistem tetap stabil, aman, dan tahan terhadap penyalahgunaan atau penolakan layanan.
Designing API rate limits and burst controlsSandbox environments for testing AI featuresRequest validation and schema enforcementQueueing strategies for high-volume workloadsAbuse detection and automated blocking rulesPelajaran 10Uji tuntas vendor: kuesioner keamanan, laporan SOC/ISO, persyaratan pengujian penetrasiBagian ini merinci cara mengevaluasi vendor AI menggunakan uji tuntas terstruktur, termasuk kuesioner keamanan, laporan SOC dan ISO, serta persyaratan pengujian penetrasi, memastikan pemroses memenuhi ekspektasi hukum, keamanan, dan ketahanan.
Building AI-specific security questionnairesReviewing SOC 2, ISO 27001, and similar reportsPenetration testing scope for AI integrationsAssessing data residency and subcontractorsOngoing vendor monitoring and reassessmentPelajaran 11Langkah operasional: pelatihan staf, privasi-by-design, buku panduan respons insiden, prosedur pemberitahuan pelanggaranBagian ini berfokus pada pengamanan operasional seperti pelatihan staf, praktik privasi-by-design, buku panduan respons insiden, dan prosedur pemberitahuan pelanggaran yang memastikan operasi AI tetap patuh, tangguh, dan didokumentasikan dengan baik.
AI-specific security and privacy trainingEmbedding privacy by design in AI projectsIncident detection and triage for AI systemsAI incident response and communication plansBreach notification timelines and contentPelajaran 12Enkripsi dalam transit dan saat istirahat; manajemen kunci dan enkripsi amplop untuk masukan/output modelBagian ini mencakup enkripsi dalam transit dan saat istirahat untuk data AI, termasuk manajemen kunci dan pola enkripsi amplop yang melindungi prompt, output, dan log sambil mendukung kontrol akses, rotasi, dan ekspektasi regulasi.
TLS configuration for AI APIs and servicesDisk, database, and object storage encryptionEnvelope encryption for prompts and outputsKey lifecycle, rotation, and segregationHSMs and cloud KMS integration options
