Reliability, async delivery & jobs
23 題
Auction (eBay)
設計一套 eBay 式的競標系統——競標者在活躍的刊登上激烈競價,尤其在接近結標時競爭最兇,而系統絕不能把落標的出價當成得標,也不能讓競標以不一致的價格結束。
預覽Collaborative Shopping
設計一套協作購物體驗:多人即時共用同一個購物車,可以並行加入與移除商品,並由指定的其中一位參與者代表整個群組結帳。
預覽Donation Platform
設計一個像 GoFundMe 的募款平台——一檔專案可能在一夜之間爆紅,湧入大量小額捐款,而每一塊錢都必須被收妥、可退款,並即時反映在準確的募款進度計數上。
預覽Flash Sale
設計一套限量搶購(flash sale)系統:一件熱門商品在固定時刻開賣,數秒內湧入 1000 倍流量——庫存絕不能超賣,而且大多數使用者要能拿到快速、誠實的答覆,而不是卡到逾時。
預覽Job Scheduler
設計一套分散式 job 排程器(cron-as-a-service):讓各租戶註冊週期性與一次性的 job,保證每個 job 都在接近排定時間時觸發,並在 worker 與協調者故障時存活,不會重複執行、也不會默默漏掉 job。
預覽Moderation Service
設計一條內容審核管線,篩查使用者提交的貼文/媒體是否違反政策,在平台規模下權衡發文延遲與審核準確度。
預覽Monitoring and Alerting
設計一套監控平台的告警與可觀測性層——這套系統會用規則比對進來的訊號、決定要呼叫誰,並在事故期間避免值班的人被雜訊淹沒。
預覽Restaurant Reservation
設計一套 OpenTable 式的餐廳訂位系統:食客在餐廳預訂一個時段與人數,餐廳最佳化桌位分配,而爽約(no-show)則在訂位時不收款的前提下處理。
預覽Spend Management System
設計一套企業支出管理平台,像 Brex 或 Ramp——每一次刷卡都必須在兩秒內由即時政策引擎完成授權或拒絕,而每一筆交易都必須流進會計系統,並配對到對應的收據。
預覽支付 API 平台
設計 支付 API 平台 本身——一個讓其他公司在它之上開發的支付平台,對數千家商戶開放收費/webhook API,同時把交易路由到底層多個卡組織與銀行。
預覽Ticketmaster (General Admission)
為一般入場(general admission)的活動設計 Ticketmaster——沒有座位圖,每個票種只有一個固定的容量計數,系統必須在極端的閃售爭搶下正確售票,數千名買家同時搶同一個 counter。
預覽票務系統
設計一套活動售票系統,在大量使用者同時搶票時販售指定座位,確保同一個座位不會重複售出。
免費指南網頁爬蟲
設計一套網頁爬蟲,在不造成來源網站負擔的前提下,抓取並索引數十億個網頁、移除重複內容,並持續更新資料。
免費指南Webhook
設計一個 webhook 派送平台(Stripe webhooks 那種),在重試、順序與安全的約束下,可靠地把事件通知送達數千個第三方消費端點。
預覽影片平台
設計 影片平台 的上傳與處理管線——接收海量的使用者上傳影片,把它們轉換成可播放的多解析度影片庫。
預覽LLM 推論閘道
設計一套 LLM inference gateway,位於內部產品團隊與多家模型供應商/後端之間,在公司規模下處理路由、串流、配額與安全控管。
免費指南AI 訓練叢集
為多個團隊共用的大型 GPU/TPU 訓練叢集設計排程器,這些團隊都在跑分散式訓練工作;要處理 gang scheduling(整組一起排)、搶佔,以及故障復原。
預覽Notification System
設計一套多通道通知系統,代表眾多內部服務發送 email、推播、SMS 與站內通知,並在過程中尊重使用者偏好與投遞保證。
預覽ML Feature Store
為像 Uber 這樣的公司設計一套 ML feature store,讓同一份特徵同時供給離線模型訓練與低延遲的線上推論。涵蓋離線/線上儲存的拆分、point-in-time 正確的訓練資料、訓練/線上偏移(training-serving skew)、特徵新鮮度與回填(backfill)、物化(materialization)管線,以及特徵血緣(lineage)。
預覽IoT Device Platform
設計一套透過 MQTT 管理約 1,000 萬台連網裝置的平台:連線生命週期與斷線偵測、機隊規模的遙測 ingest,以及最具代表性的難題——如何可靠地把指令送達當下離線的裝置。在裝置失聯期間發出的指令,必須存活下來、恰好生效一次,而且絕不能過期還誤觸發:三天前送出的解鎖,不能在今天把門打開。涵蓋 QoS 取捨、persistent session、device shadow 的...
預覽LLM Evaluation Platform
為一個要出貨 LLM 功能的組織設計評測平台:管理一份帶版本的 golden set(分層抽樣的生產樣本、對抗性題庫、人工建構的邊界案例,以及真正上線過的失敗案例的重放),在明確的偏誤控制下用 LLM judge 為輸出打分,在 CI 中依回歸趨勢對每一次 prompt/模型/檢索的變更設關卡(gate),並跑生產回饋迴路來讓 golden set 保持鮮活。評測方法論就是新的系統設計:一次...
預覽Distributed Message Queue
設計一套 Kafka 風格、可持久化、分區化的 log broker,能承接高吞吐的事件串流。涵蓋為了平行度而做的分區、搭配 in-sync replica 的複寫、consumer group 與 rebalancing、offset 管理、投遞語意(at-least-once 對比 exactly-once)、retention 與 log...
預覽Online Judge
設計一套 LeetCode 風格的線上評測系統(Online Judge),能在大規模下安全執行不受信任的使用者程式碼。內容涵蓋提交佇列、隔離的多語言執行器(容器/gVisor/Firecracker)、CPU/時間/記憶體限制、不受信任程式碼的安全防護、結果回傳,以及因應競賽尖峰的自動擴縮。
預覽