Caching, partitioning & hot-path scale

設計一套廣告點擊聚合系統，每秒接收數百萬筆點擊事件，讓廣告主能查詢近即時與歷史彙總指標。

設計一個正式上線的 AI agent 應用平台：接收使用者目標、管理上下文與記憶、安全地呼叫工具、必要時暫停交由真人審核，並透過 trace 與 eval 持續改善。

為數億同時在線使用者設計一套聊天產品背後的後端基礎設施——有狀態的連線伺服器、訊息儲存，以及群組扇出。重點在基礎設施：連線機群、儲存 schema，以及大規模下的扇出。

設計一個優惠券與促銷平台：使用者瀏覽並搜尋一份龐大、頻繁變動的優惠目錄，並在每個限制內剛好兌換優惠碼一次，絕不讓過時的價格或重複兌換漏出去。

設計一個像 GoFundMe 的募款平台——一檔專案可能在一夜之間爆紅，湧入大量小額捐款，而每一塊錢都必須被收妥、可退款，並即時反映在準確的募款進度計數上。

在社交動態上設計搜尋——讓使用者能近乎即時地用關鍵字找到貼文，同時尊重每則貼文的隱私/可見性設定。

設計一套限量搶購（flash sale）系統：一件熱門商品在固定時刻開賣，數秒內湧入 1000 倍流量——庫存絕不能超賣，而且大多數使用者要能拿到快速、誠實的答覆，而不是卡到逾時。

為數百萬玩家依分數即時排名設計一套遊戲排行榜，支援分區與時間窗榜單，並能以低成本同時提供 top-N 與指定玩家的名次。

設計 Booking.com——一個彙整數千家獨立供應商飯店即時空房與價格的飯店市集，即使底層庫存既不由你擁有、也不強一致，搜尋結果仍必須保持快速。

設計監控平台背後的指標管線——從部署在數千台主機上的 SDK 發出數值量測值開始，經過串流預先聚合，寫入耐久的時序儲存，讓儀表板能在超大規模下快速查詢的整條路徑。

為一般入場(general admission)的活動設計 Ticketmaster——沒有座位圖，每個票種只有一個固定的容量計數，系統必須在極端的閃售爭搶下正確售票，數千名買家同時搶同一個 counter。

設計一套活動售票系統，在大量使用者同時搶票時販售指定座位，確保同一個座位不會重複售出。

設計 Spotify 的 Top-K 熱門歌曲功能，從大量播放事件中，計算不同滑動時間視窗內播放次數最高的歌曲排行榜。

設計一套 Uber 式的叫車平台，即時媒合乘客與附近司機，並處理即時位置追蹤、計價及完整行程狀態管理。

設計一套網頁爬蟲，在不造成來源網站負擔的前提下，抓取並索引數十億個網頁、移除重複內容，並持續更新資料。

設計 Yelp——一套在地商家搜尋與評論平台，回傳附近、可篩選的商家結果，並依相關度與評分排序。

為 1 億日活躍使用者設計一套可擴展的短網址服務。涵蓋轉址、自訂別名、點擊分析、快取，以及一致性的取捨。

設計一套 LLM inference gateway，位於內部產品團隊與多家模型供應商／後端之間，在公司規模下處理路由、串流、配額與安全控管。

為多個團隊共用的大型 GPU/TPU 訓練叢集設計排程器，這些團隊都在跑分散式訓練工作；要處理 gang scheduling(整組一起排)、搶佔，以及故障復原。

為公開的 API 平台設計一套分散式 API 速率限制器。涵蓋 token bucket、依使用者的限額、共用計數器、熱 key，以及故障模式。

設計一套向量資料庫的儲存與查詢引擎，為數十億筆 embedding 建立索引，支援近似最近鄰(ANN)搜尋。涵蓋 ANN 索引設計(HNSW 圖建構、IVF-PQ)、距離度量、十億級向量分片、篩選/混合搜尋、召回率與延遲的調校，以及增量 upsert。

設計一套 Dynamo 風格的高可用鍵值儲存：用一致性雜湊把 key 分散到各節點，每個 key 複製到 N 個節點，並讓每個操作用 quorum 讀寫(R + W > N)自行調整一致性。這套儲存必須在節點故障與網路分區期間維持可寫——sloppy quorum 與 hinted handoff 讓 home 複本無法連線時仍持續接受寫入——而分區兩側並行寫入同一個 key 產生的版本，必須用...

設計一套 Redis/Memcached 等級的分散式記憶體快取服務，在 p99 低於 5ms 的前提下扛住約每秒 100 萬次 QPS。涵蓋用於分片的一致性雜湊、複本與故障轉移、淘汰策略(LRU/LFU/TTL)、熱 key 與驚群效應、write-through 與 write-back 的取捨、快取擊穿的防護，以及節點故障時的行為。

設計一套 Kafka 風格、可持久化、分區化的 log broker，能承接高吞吐的事件串流。涵蓋為了平行度而做的分區、搭配 in-sync replica 的複寫、consumer group 與 rebalancing、offset 管理、投遞語意(at-least-once 對比 exactly-once)、retention 與 log...

為連接消費者、外送員（Dasher）與商家的 DoorDash 式外送媒合平台做設計。涵蓋訂單生命週期、外送員派遣與併單、即時定位追蹤、ETA 預測、地理分區、動態加價，以及供需平衡。

設計一套即時留言系統，把單一直播事件的留言即時扇出給數百萬名同時在線的觀眾。涵蓋 pub/sub 扇出、熱分區與名人效應處理、背壓、洪峰下的抽樣與速率整形、順序與吞吐量的取捨，以及短暫式（ephemeral）與持久式儲存。