LLM Safety Guardrails

एक content moderation pipeline डिज़ाइन करें जो user के भेजे posts/media को policy उल्लंघनों के लिए screen करती है, platform scale पर posting latency और review accuracy के बीच संतुलन बनाते हुए।

एक guardrails pipeline डिज़ाइन करें जो किसी LLM application को layered input और output safety से लपेट दे। इसमें prompt-injection और jailbreak detection, PII redaction, output moderation, tool-call और...