수업 1액세스 제어 및 역할 기반 권한, 최소 권한, 특권 액세스 모니터링이 섹션에서는 AI 시스템에 대한 액세스 제어 및 역할 기반 권한을 설계하는 방법, 최소 권한 강제, 특권 액세스 모니터링을 설명하여 민감 데이터와 관리 기능이 엄격하게 통제되도록 합니다.
Defining AI-specific roles and permissionsImplementing least privilege for AI adminsStrong authentication for privileged usersSession recording and just-in-time accessPeriodic access review and recertification수업 2로깅, 감사 추적, 데이터 액세스 및 모델 쿼리 기록에 대한 불변 로깅이 섹션에서는 AI 시스템에 대한 로깅 전략을 다루며, 데이터 액세스 및 모델 쿼리 기록에 대한 상세 감사 추적 및 불변 로그를 포함하여 조사, 책임성, 규제 또는 내부 검토 증거를 가능하게 합니다.
Defining AI logging scope and granularityCapturing user, admin, and system actionsImmutable logging and tamper resistanceLog minimization and pseudonymizationLog review, alerting, and investigations수업 3데이터 최소화 및 전처리: LLM으로 보내기 전 PII 줄이는 기법이 섹션에서는 AI 모델로 보내기 전에 개인 데이터를 줄이는 데이터 최소화 및 전처리 기법을 설명하며, 편집, 집계, 변환을 사용하여 비즈니스 사용 사례의 유용성을 유지하면서 위험을 낮춥니다.
Identifying unnecessary personal data fieldsRedaction and masking of free-text inputsAggregation and generalization techniquesEdge preprocessing before API submissionBalancing utility with minimization duties수업 4입력 필터링 및 프롬프트 엔지니어링: 민감 데이터 제거, 패턴 기반 스크러빙, NLP 기반 분류기이 섹션에서는 처리 전에 민감 데이터를 제거하기 위한 입력 필터링 및 프롬프트 엔지니어링에 중점을 두며, 패턴 기반 스크러빙 및 NLP 분류기를 사용하여 위험 콘텐츠를 탐지하고 조직 정책을 경계에서 시행합니다.
Pattern-based scrubbing of identifiersNLP classifiers for sensitive categoriesPrompt templates that avoid PII captureReal-time input validation and blockingUser guidance and consent at input time수업 5거버넌스: DPIA 통합, 데이터 처리 계약(DPA), 기록 업데이트 및 변경 제어이 섹션에서는 AI에 대한 거버넌스 구조를 설명하며, DPIA 통합, 데이터 처리 계약 관리, 기록 유지 및 변경 제어를 포함하여 시스템 수정이 투명하고 평가되며 준수되도록 합니다.
When and how to run AI-focused DPIAsKey DPA clauses for AI processingMaintaining records of processing for AIChange control for models and datasetsGovernance forums and approval workflows수업 6자유 텍스트 데이터 및 구조화 필드에 대한 가명화 및 토큰화 접근법이 섹션에서는 자유 텍스트 및 구조화된 데이터에 대한 가명화 및 토큰화 전략을 탐구하며, 식별자를 가역 또는 비가역 토큰으로 교체하는 방법과 재식별화 및 키 분리 위험 관리를 보여줍니다.
Pseudonymization versus anonymization limitsTokenization for structured identifiersHandling names and IDs in free-text dataKey and token vault management controlsRe-identification risk assessment methods수업 7출력 필터링 및 후처리: 민감도 탐지, 환각 탐지, 신뢰도 점수이 섹션에서는 민감 데이터 탐지, 환각 식별, 신뢰도 점수를 적용하여 AI 출력을 검사하고 조정하는 메커니즘을 다루며, 위험한 응답이 최종 사용자에게 도달하기 전에 차단, 플래그 또는 검토로 라우팅되도록 합니다.
Detecting personal and sensitive data in model outputsHallucination detection rules and model ensemblesDesigning confidence scores and thresholdsHuman review workflows for risky responsesUser feedback loops to refine output filters수업 8보유 정책, 자동 삭제, 목적 제한과 정렬된 백업 보유이 섹션에서는 AI 데이터에 대한 보유 일정을 정의하고 자동 삭제를 구성하며, 백업을 목적 제한과 정렬하여 훈련 데이터, 로그, 프롬프트가 필요 이상으로 저장되거나 호환되지 않게 사용되지 않도록 하는 방법을 설명합니다.
Mapping data categories to retention periodsAutomated deletion of prompts and logsBackup retention and restore testingHandling legal holds and exceptionsDocumenting retention decisions for audits수업 9샌드박싱 및 속도 제한 API 호출; 스로틀링, 요청 유효성 검사, 큐잉이 섹션에서는 샌드박싱, 속도 제한 API 호출, 스로틀링, 요청 유효성 검사, 큐잉을 사용하여 AI 서비스를 격리하고 트래픽 양을 제어하며 들어오는 요청을 유효성 검사하여 시스템이 안정적이고 안전하며 남용이나 서비스 거부에 저항되도록 하는 방법을 설명합니다.
Designing API rate limits and burst controlsSandbox environments for testing AI featuresRequest validation and schema enforcementQueueing strategies for high-volume workloadsAbuse detection and automated blocking rules수업 10벤더 실사 diligence: 보안 설문지, SOC/ISO 보고서, 침투 테스트 요구사항이 섹션에서는 구조화된 실사 diligence를 사용하여 AI 벤더를 평가하는 방법, 보안 설문지, SOC 및 ISO 보고서, 침투 테스트 요구사항을 포함하여 프로세서가 법적, 보안, 탄력성 기대를 충족하도록 하는 상세 사항을 설명합니다.
Building AI-specific security questionnairesReviewing SOC 2, ISO 27001, and similar reportsPenetration testing scope for AI integrationsAssessing data residency and subcontractorsOngoing vendor monitoring and reassessment수업 11운영 조치: 직원 교육, 설계 시 개인정보 보호, 인시던트 대응 플레이북, 침해 통지 절차이 섹션에서는 직원 교육, 설계 시 개인정보 보호, 인시던트 대응 플레이북, 침해 통지 절차와 같은 운영 보호 조치에 중점을 두며, AI 운영이 준수하고 탄력적이며 잘 문서화되도록 합니다.
AI-specific security and privacy trainingEmbedding privacy by design in AI projectsIncident detection and triage for AI systemsAI incident response and communication plansBreach notification timelines and content수업 12전송 중 및 휴지 시 암호화; 모델 입력/출력에 대한 키 관리 및 엔벨로프 암호화이 섹션에서는 AI 데이터에 대한 전송 중 및 휴지 시 암호화, 키 관리, 모델 입력/출력에 대한 엔벨로프 암호화 패턴을 다루며, 프롬프트, 출력, 로그를 보호하면서 액세스 제어, 로테이션, 규제 기대를 지원합니다.
TLS configuration for AI APIs and servicesDisk, database, and object storage encryptionEnvelope encryption for prompts and outputsKey lifecycle, rotation, and segregationHSMs and cloud KMS integration options
