سبق 1ਪਹੁੰਚ ਕੰਟਰੋਲ ਅਤੇ ਰੋਲ-ਬੇਸਡ ਪਰਮਿਸ਼ਨਾਂ, ਘੱਟੋ-ਘੱਟ ਵਿਸ਼ੇਸ਼ਤਾ, ਵਿਸ਼ੇਸ਼ ਪਹੁੰਚ ਨਿਗਰਾਨੀਇਹ ਭਾਗ ਏਆਈ ਸਿਸਟਮਾਂ ਲਈ ਪਹੁੰਚ ਕੰਟਰੋਲ ਅਤੇ ਰੋਲ-ਬੇਸਡ ਪਰਮਿਸ਼ਨਾਂ ਡਿਜ਼ਾਈਨ ਕਰਨ, ਘੱਟੋ-ਘੱਟ ਵਿਸ਼ੇਸ਼ਤਾ ਲਾਗੂ ਕਰਨ, ਅਤੇ ਵਿਸ਼ੇਸ਼ ਪਹੁੰਚ ਨੂੰ ਨਿਗਰਾਨੀ ਕਰਨ ਬਾਰੇ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਅਤੇ ਪ੍ਰਸ਼ਾਸਕੀ ਕਾਰਵਾਈਆਂ ਟਾਈਟ ਗਵਰਨ ਕੀਤੀਆਂ ਰਹਿਣ। ਇਹ ਪਹੁੰਚ ਕੰਟਰੋਲ ਦੀ ਮਹੱਤਤਾ ਸਮਝਾਉਂਦਾ ਹੈ।
Defining AI-specific roles and permissionsImplementing least privilege for AI adminsStrong authentication for privileged usersSession recording and just-in-time accessPeriodic access review and recertificationسبق 2ਲੌਗਿੰਗ, ਆਡਿਟ ਟ੍ਰੇਲ, ਅਤੇ ਡਾਟਾ ਪਹੁੰਚ ਅਤੇ ਮਾਡਲ ਕੁਏਰੀ ਰਿਕਾਰਡਾਂ ਲਈ ਅਮੁਟਲੇ ਲੌਗਿੰਗਇਹ ਭਾਗ ਏਆਈ ਸਿਸਟਮਾਂ ਲਈ ਲੌਗਿੰਗ ਰਣਨੀਤੀਆਂ ਘੇਰਦਾ ਹੈ, ਜਿਵੇਂ ਵੇਰਵੇ ਵਾਲੇ ਆਡਿਟ ਟ੍ਰੇਲ ਅਤੇ ਡਾਟਾ ਪਹੁੰਚ ਅਤੇ ਮਾਡਲ ਕੁਏਰੀ ਰਿਕਾਰਡਾਂ ਲਈ ਅਮੁਟਲੇ ਲੌਗ, ਜੋ ਖੋਜਾਂ, ਜ਼ਿੰਮੇਵਾਰੀ, ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਜਾਂ ਅੰਦਰੂਨੀ ਸਮੀਖਿਆਵਾਂ ਲਈ ਸਬੂਤ ਨੂੰ ਸੰਭਵ ਬਣਾਉਂਦੇ ਹਨ। ਇਹ ਲੌਗਿੰਗ ਦੀ ਮਹੱਤਤਾ ਸਮਝਾਉਂਦਾ ਹੈ।
Defining AI logging scope and granularityCapturing user, admin, and system actionsImmutable logging and tamper resistanceLog minimization and pseudonymizationLog review, alerting, and investigationsسبق 3ਡਾਟਾ ਘੱਟ ਕਰਨਾ ਅਤੇ ਪ੍ਰੀ-ਪ੍ਰੋਸੈਸਿੰਗ: LLM ਤੱਕ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ PII ਘਟਾਉਣ ਲਈ ਤਕਨੀਕਾਂਇਹ ਭਾਗ ਡਾਟਾ ਘੱਟ ਕਰਨ ਅਤੇ ਪ੍ਰੀ-ਪ੍ਰੋਸੈਸਿੰਗ ਤਕਨੀਕਾਂ ਨੂੰ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ ਜੋ ਏਆਈ ਮਾਡਲਾਂ ਤੱਕ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਨਿੱਜੀ ਡਾਟਾ ਨੂੰ ਘਟਾਉਂਦੀਆਂ ਹਨ, ਰੈਡੈਕਸ਼ਨ, ਐਗ੍ਰੀਗੇਸ਼ਨ, ਅਤੇ ਟ੍ਰਾਂਸਫਾਰਮੇਸ਼ਨ ਵਰਤ ਕੇ ਜੋਖਮ ਘਟਾਉਂਦੀਆਂ ਹਨ ਜਦੋਂ ਕਿ ਬਿਜ਼ਨਸ ਯੂਜ਼ ਕੇਸਾਂ ਲਈ ਯੁਟਿਲਿਟੀ ਬਚਾਉਂਦੀਆਂ ਹਨ। ਇਹ ਡਾਟਾ ਘੱਟ ਕਰਨ ਦੇ ਢੰਗ ਸਿਖਾਉਂਦਾ ਹੈ।
Identifying unnecessary personal data fieldsRedaction and masking of free-text inputsAggregation and generalization techniquesEdge preprocessing before API submissionBalancing utility with minimization dutiesسبق 4ਇਨਪੁਟ ਫਿਲਟਰਿੰਗ ਅਤੇ ਪ੍ਰੌਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ: ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਹਟਾਉਣਾ, ਪੈਟਰਨ-ਬੇਸਡ ਸਕ੍ਰਬਿੰਗ, NLP-ਬੇਸਡ ਕਲਾਸੀਫਾਈਅਰਇਹ ਭਾਗ ਇਨਪੁਟ ਫਿਲਟਰਿੰਗ ਅਤੇ ਪ੍ਰੌਂਪਟ ਇੰਜੀਨੀਅਰਿੰਗ ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਿਤ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਪ੍ਰੋਸੈਸਿੰਗ ਤੋਂ ਪਹਿਲਾਂ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਹਟਾਇਆ ਜਾਵੇ, ਪੈਟਰਨ-ਬੇਸਡ ਸਕ੍ਰਬਿੰਗ ਅਤੇ NLP ਕਲਾਸੀਫਾਈਅਰ ਵਰਤ ਕੇ ਖਤਰਨਾਕ ਸਮੱਗਰੀ ਪਛਾਣਨ ਅਤੇ ਸੰਸਥਾਗਤ ਨੀਤੀਆਂ ਨੂੰ ਬਾਊਂਡਰੀ ਤੇ ਲਾਗੂ ਕਰਨ ਲਈ। ਇਹ ਇਨਪੁਟ ਸੁਰੱਖਿਆ ਸਿਖਾਉਂਦਾ ਹੈ।
Pattern-based scrubbing of identifiersNLP classifiers for sensitive categoriesPrompt templates that avoid PII captureReal-time input validation and blockingUser guidance and consent at input timeسبق 5ਗਵਰਨੈਂਸ: DPIA ਇੰਟੀਗ੍ਰੇਸ਼ਨ, ਡਾਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਐਗ੍ਰੀਮੈਂਟਸ (DPAs), ਰਿਕਾਰਡ ਅਪਡੇਟਸ ਅਤੇ ਬਦਲਾਅ ਕੰਟਰੋਲਇਹ ਭਾਗ ਏਆਈ ਲਈ ਗਵਰਨੈਂਸ ਢਾਂਚੇ ਵਰਣਨ ਕਰਦਾ ਹੈ, ਜਿਵੇਂ DPIAs ਨੂੰ ਇੰਟੀਗ੍ਰੇਟ ਕਰਨਾ, ਡਾਟਾ ਪ੍ਰੋਸੈਸਿੰਗ ਐਗ੍ਰੀਮੈਂਟਸ ਪ੍ਰਬੰਧਿਤ ਕਰਨਾ, ਅਤੇ ਰਿਕਾਰਡ ਅਤੇ ਬਦਲਾਅ ਕੰਟਰੋਲ ਰੱਖਣਾ ਤਾਂ ਜੋ ਸਿਸਟਮ ਬਦਲਾਅ ਪਾਰਦਰਸ਼ੀ, ਮੁਲਾਂਕਿਤ, ਅਤੇ ਅਨੁਸਾਰੀ ਰਹਿਣ। ਇਹ ਗਵਰਨੈਂਸ ਸਿਖਾਉਂਦਾ ਹੈ।
When and how to run AI-focused DPIAsKey DPA clauses for AI processingMaintaining records of processing for AIChange control for models and datasetsGovernance forums and approval workflowsسبق 6ਫ੍ਰੀ-ਟੈਕਸਟ ਡਾਟਾ ਅਤੇ ਢਾਂਚਾਗਤ ਫੀਲਡਾਂ ਲਈ ਪਸੇਡੋਨੀਮਾਈਜ਼ੇਸ਼ਨ ਅਤੇ ਟੋਕਨਾਈਜ਼ੇਸ਼ਨ ਢੰਗਇਹ ਭਾਗ ਫ੍ਰੀ-ਟੈਕਸਟ ਅਤੇ ਢਾਂਚਾਗਤ ਡਾਟਾ ਲਈ ਪਸੇਡੋਨੀਮਾਈਜ਼ੇਸ਼ਨ ਅਤੇ ਟੋਕਨਾਈਜ਼ੇਸ਼ਨ ਰਣਨੀਤੀਆਂ ਦੀ ਖੋਜ ਕਰਦਾ ਹੈ, ਆਈਡੈਂਟੀਫਾਈਅਰਾਂ ਨੂੰ ਰੀਵਰਸੀਬਲ ਜਾਂ ਅਣ-ਰੀਵਰਸੀਬਲ ਟੋਕਨਾਂ ਨਾਲ ਬਦਲਣ ਦਿਖਾਉਂਦਾ ਹੈ ਜਦੋਂ ਕਿ ਰੀ-ਆਈਡੈਂਟੀਫਿਕੇਸ਼ਨ ਅਤੇ ਕੁੰਜੀ ਵਿਛੋੜ੍ਹ ਜੋਖਮਾਂ ਨੂੰ ਪ੍ਰਬੰਧਿਤ ਕਰਦਾ ਹੈ। ਇਹ ਡੀ-ਆਈਡੈਂਟੀਫਿਕੇਸ਼ਨ ਸਿਖਾਉਂਦਾ ਹੈ।
Pseudonymization versus anonymization limitsTokenization for structured identifiersHandling names and IDs in free-text dataKey and token vault management controlsRe-identification risk assessment methodsسبق 7ਆਊਟਪੁਟ ਫਿਲਟਰਿੰਗ ਅਤੇ ਪੋਸਟ-ਪ੍ਰੋਸੈਸਿੰਗ: ਸੰਵੇਦਨਸ਼ੀਲਤਾ ਪਛਾਣ, ਹੈਲੂਸੀਨੇਸ਼ਨ ਪਛਾਣ, ਭਰੋਸਾ ਸਕੋਰਿੰਗਇਹ ਭਾਗ ਏਆਈ ਆਊਟਪੁਟਸ ਨੂੰ ਇੰਸਪੈਕਟ ਅਤੇ ਐਡਜਸਟ ਕਰਨ ਵਾਲੇ ਮੀਕੈਨਿਜ਼ਮ ਘੇਰਦਾ ਹੈ ਤਾਂ ਜੋ ਸੰਵੇਦਨਸ਼ੀਲ ਡਾਟਾ ਪਛਾਣਿਆ ਜਾਵੇ, ਹੈਲੂਸੀਨੇਸ਼ਨਜ਼ ਪਛਾਣੀਆਂ ਜਾਣ, ਅਤੇ ਭਰੋਸਾ ਸਕੋਰਿੰਗ ਲਾਗੂ ਕੀਤੀ ਜਾਵੇ ਤਾਂ ਜੋ ਖਤਰਨਾਕ ਜਵਾਬ ਐਂਡ ਯੂਜ਼ਰਾਂ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਬਲੌਕ, ਫਲੈਗ, ਜਾਂ ਸਮੀਖਿਆ ਲਈ ਰੂਟ ਕੀਤੇ ਜਾਣ। ਇਹ ਆਊਟਪੁਟ ਫਿਲਟਰਿੰਗ ਸਿਖਾਉਂਦਾ ਹੈ।
Detecting personal and sensitive data in model outputsHallucination detection rules and model ensemblesDesigning confidence scores and thresholdsHuman review workflows for risky responsesUser feedback loops to refine output filtersسبق 8ਰਿਟੇਨਸ਼ਨ ਨੀਤੀਆਂ, ਆਟੋਮੇਟਿਕ ਮਿਟਾਉਣਾ, ਅਤੇ ਉਦੇਸ਼ ਸੀਮਾ ਨਾਲ ਬੈਕਅਪ ਰਿਟੇਨਸ਼ਨ ਅਲਾਈਨਮੈਂਟਇਹ ਭਾਗ ਏਆਈ ਡਾਟਾ ਲਈ ਰਿਟੇਨਸ਼ਨ ਸ਼ੈਡਿਊਲ ਨਿਰਧਾਰਤ ਕਰਨ, ਆਟੋਮੇਟਿਕ ਮਿਟਾਉਣ ਕਾਨਫਿਗਰ ਕਰਨ, ਅਤੇ ਬੈਕਅਪ ਨੂੰ ਉਦੇਸ਼ ਸੀਮਾ ਨਾਲ ਅਲਾਈਨ ਕਰਨ ਬਾਰੇ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਟ੍ਰੇਨਿੰਗ ਡਾਟਾ, ਲੌਗ, ਅਤੇ ਪ੍ਰੌਂਪਟ ਜ਼ਰੂਰੀ ਤੋਂ ਵੱਧ ਸਟੋਰ ਨਾ ਹੋਣ ਜਾਂ ਅਨੁਕੂਲ ਨਾ ਵਰਤੇ ਜਾਣ। ਇਹ ਰਿਟੇਨਸ਼ਨ ਨੀਤੀਆਂ ਸਿਖਾਉਂਦੀ ਹੈ।
Mapping data categories to retention periodsAutomated deletion of prompts and logsBackup retention and restore testingHandling legal holds and exceptionsDocumenting retention decisions for auditsسبق 9ਸੈਂਡਬੌਕਸਿੰਗ ਅਤੇ ਰੇਟ-ਲੀਮਿਟਿੰਗ API ਕਾਲਾਂ; ਥ੍ਰੌਟਲਿੰਗ, ਰਿਕੁਐਸਟ ਵੈਲੀਡੇਸ਼ਨ, ਅਤੇ ਕਿਊਇੰਗਇਹ ਭਾਗ ਏਆਈ ਸੇਵਾਵਾਂ ਨੂੰ ਆਈਸੋਲੇਟ ਕਰਨ, ਟ੍ਰੈਫਿਕ ਵਾਲੀਊਮ ਕੰਟਰੋਲ ਕਰਨ, ਅਤੇ ਸੈਂਡਬੌਕਸਿੰਗ, ਰੇਟ ਲੀਮਿਟਸ, ਥ੍ਰੌਟਲਿੰਗ, ਅਤੇ ਕਿਊਇੰਗ ਵਰਤ ਕੇ ਆਉਂਦੇ ਰਿਕੁਐਸਟਸ ਵੈਲੀਡੇਟ ਕਰਨ ਬਾਰੇ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਸਿਸਟਮ ਸਥਿਰ, ਸੁਰੱਖਿਅਤ, ਅਤੇ ਦੁਰਵਰਤੋਂ ਜਾਂ DoS ਵਿਰੁੱਧ ਮਜ਼ਬੂਤ ਰਹਿਣ। ਇਹ API ਸੁਰੱਖਿਆ ਸਿਖਾਉਂਦਾ ਹੈ।
Designing API rate limits and burst controlsSandbox environments for testing AI featuresRequest validation and schema enforcementQueueing strategies for high-volume workloadsAbuse detection and automated blocking rulesسبق 10ਵੈਂਡਰ ਡਿਊ ਡਿਲੀਜੈਂਸ: ਸੁਰੱਖਿਆ ਕੁਏਸ਼ਚਨੇਅਰ, SOC/ISO ਰਿਪੋਰਟਸ, ਪੈਨੀਟ੍ਰੇਸ਼ਨ ਟੈਸਟ ਲੋੜਾਂਇਹ ਭਾਗ ਢਾਂਚਾਗਤ ਡਿਊ ਡਿਲੀਜੈਂਸ ਵਰਤ ਕੇ ਏਆਈ ਵੈਂਡਰਾਂ ਨੂੰ ਮੁਲਾਂਕਣ ਕਰਨ ਦਾ ਵੇਰਵਾ ਦਿੰਦਾ ਹੈ, ਜਿਵੇਂ ਸੁਰੱਖਿਆ ਕੁਏਸ਼ਚਨੇਅਰ, SOC ਅਤੇ ISO ਰਿਪੋਰਟਸ, ਅਤੇ ਪੈਨੀਟ੍ਰੇਸ਼ਨ ਟੈਸਟਿੰਗ ਲੋੜਾਂ, ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਪ੍ਰੋਸੈਸਰ ਕਾਨੂੰਨੀ, ਸੁਰੱਖਿਆ, ਅਤੇ ਲਚਕੀਲੇ ਅਪੇਕਸ਼ਾਵਾਂ ਨੂੰ ਪੂਰਾ ਕਰਦੇ ਹਨ। ਇਹ ਵੈਂਡਰ ਮੁਲਾਂਕਣ ਸਿਖਾਉਂਦਾ ਹੈ।
Building AI-specific security questionnairesReviewing SOC 2, ISO 27001, and similar reportsPenetration testing scope for AI integrationsAssessing data residency and subcontractorsOngoing vendor monitoring and reassessmentسبق 11ਓਪਰੇਸ਼ਨਲ ਉਪਾਅ: ਸਟਾਫ ਟ੍ਰੇਨਿੰਗ, ਪ੍ਰਾਈਵੇਸੀ-ਬਾਈ-ਡਿਜ਼ਾਈਨ, ਇਨਸੀਡੈਂਟ ਰਿਸਪਾਂਸ ਪਲੇਬੁੱਕਸ, ਬ੍ਰੀਚ ਨੋਟੀਫਿਕੇਸ਼ਨ ਪ੍ਰੋਸੀਜਰਇਹ ਭਾਗ ਸਟਾਫ ਟ੍ਰੇਨਿੰਗ, ਪ੍ਰਾਈਵੇਸੀ-ਬਾਈ-ਡਿਜ਼ਾਈਨ ਅਭਿਆਸਾਂ, ਇਨਸੀਡੈਂਟ ਰਿਸਪਾਂਸ ਪਲੇਬੁੱਕਸ, ਅਤੇ ਬ੍ਰੀਚ ਨੋਟੀਫਿਕੇਸ਼ਨ ਪ੍ਰੋਸੀਜਰ ਵਰਗੇ ਓਪਰੇਸ਼ਨਲ ਸੁਰੱਖਿਆ ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਿਤ ਕਰਦਾ ਹੈ ਜੋ ਏਆਈ ਓਪਰੇਸ਼ਨਾਂ ਨੂੰ ਅਨੁਸਾਰੀ, ਲਚਕੀਲਾ, ਅਤੇ ਚੰਗੀ ਤਰ੍ਹਾਂ ਦਸਤਾਵੇਜ਼ੀਕ੍ਰਿਤ ਰੱਖਦੇ ਹਨ। ਇਹ ਓਪਰੇਸ਼ਨਲ ਉਪਾਅ ਸਿਖਾਉਂਦਾ ਹੈ।
AI-specific security and privacy trainingEmbedding privacy by design in AI projectsIncident detection and triage for AI systemsAI incident response and communication plansBreach notification timelines and contentسبق 12ਟ੍ਰਾਂਜਿਟ ਅਤੇ ਰੈਸਟ ਵਿੱਚ ਐਂਕ੍ਰਿਪਸ਼ਨ; ਮਾਡਲ ਇਨਪੁਟਸ/ਆਊਟਪੁਟਸ ਲਈ ਕੁੰਜੀ ਪ੍ਰਬੰਧਨ ਅਤੇ ਐਨਵਲੋਪ ਐਂਕ੍ਰਿਪਸ਼ਨਇਹ ਭਾਗ ਏਆਈ ਡਾਟਾ ਲਈ ਟ੍ਰਾਂਜਿਟ ਅਤੇ ਰੈਸਟ ਵਿੱਚ ਐਂਕ੍ਰਿਪਸ਼ਨ ਘੇਰਦਾ ਹੈ, ਕੁੰਜੀ ਪ੍ਰਬੰਧਨ ਅਤੇ ਐਨਵਲੋਪ ਐਂਕ੍ਰਿਪਸ਼ਨ ਪੈਟਰਨ ਸ਼ਾਮਲ ਹੈ ਜੋ ਪ੍ਰੌਂਪਟਸ, ਆਊਟਪੁਟਸ, ਅਤੇ ਲੌਗਾਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਕਰਦੇ ਹਨ ਜਦੋਂ ਕਿ ਪਹੁੰਚ ਕੰਟਰੋਲ, ਰੋਟੇਸ਼ਨ, ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਅਪੇਕਸ਼ਾਵਾਂ ਨੂੰ ਸਮਰਥਨ ਦਿੰਦੇ ਹਨ। ਇਹ ਐਂਕ੍ਰਿਪਸ਼ਨ ਸਿਖਾਉਂਦਾ ਹੈ।
TLS configuration for AI APIs and servicesDisk, database, and object storage encryptionEnvelope encryption for prompts and outputsKey lifecycle, rotation, and segregationHSMs and cloud KMS integration options