Elastic Worker Autoscaling
3 題
影片平台
設計 影片平台 的上傳與處理管線——接收海量的使用者上傳影片,把它們轉換成可播放的多解析度影片庫。
預覽ML Model Serving Platform
為多個團隊設計一套通用的 ML 模型服務平台,專門承載非 LLM 的預測推論。內容涵蓋模型註冊表與版本管理、線上特徵擷取、動態請求批次處理、shadow/canary 與 A/B 上線、自動擴縮,以及漂移與偏斜監控。
預覽Online Judge
設計一套 LeetCode 風格的線上評測系統(Online Judge),能在大規模下安全執行不受信任的使用者程式碼。內容涵蓋提交佇列、隔離的多語言執行器(容器/gVisor/Firecracker)、CPU/時間/記憶體限制、不受信任程式碼的安全防護、結果回傳,以及因應競賽尖峰的自動擴縮。
預覽