Rate Limiting / Quota

एक production AI agent application platform डिज़ाइन करें जो user goals स्वीकार करे, context और memory संभाले, tools को सुरक्षित रूप से call करे, ज़रूरत पड़ने पर human review के लिए रुके, और traces व...

एक coupons and deals platform design करें जहाँ users deals की एक बड़ी, अक्सर बदलती catalog को browse और search करते हैं, और हर limit में coupon code ठीक एक बार redeem करते हैं, बिना कभी stale prices...

एक flash sale सिस्टम डिज़ाइन करें जहाँ किसी hot item की सीमित मात्रा एक निश्चित क्षण पर बिक्री के लिए आती है और कुछ ही सेकंड में 1000x traffic spike झेलती है — inventory कभी oversell नहीं होनी चाहिए,...

general admission वाले events के लिए Ticketmaster design करें — कोई seat map नहीं है, हर ticket tier के लिए बस एक fixed capacity count है, और system को उस भीषण flash-sale contention में सही-सही...

वेब क्रॉलर डिज़ाइन करें। इसमें URL frontier design: priority queues for scheduling and re-crawl ordering, Politeness: robots.txt compliance and per-domain rate limiting to avoid hammering one host,...

एक LLM inference gateway design कीजिए जो internal product teams और कई model providers/backends के बीच बैठता है, और company scale पर routing, streaming, quotas तथा safety controls संभालता है।

कई टीमों द्वारा साझा किए गए एक बड़े GPU/TPU training cluster के लिए scheduler डिज़ाइन करें, जहाँ टीमें distributed training jobs चला रही हैं; इसे gang scheduling (पूरे समूह को एक साथ schedule करना),...

एक public API platform के लिए distributed API rate limiter डिज़ाइन कीजिए। token bucket, per-user limits, shared counters, hot keys और failure modes को कवर कीजिए।