H7 · Kiến trúc chịu tải 1 triệu request/giây

H7 · Nâng cao

Không có "viên đạn bạc" – giống chống lũ: mỗi lớp (đê, hồ chứa, kênh thoát) gánh một phần.

Cốt lõi

• Client → CDN → LB → App Servers x N → Redis Cache / Kafka Queue → DB Master + Replicas / Sharded DBs.
• CDN cache tài nguyên tĩnh ở edge
• LB (L7) phân phối traffic
• Redis Cluster (hit ~90%).
• Horizontal scaling tự động 100+ app server
• DB Read Replicas + Sharding (theo user_id).
• Kafka cho các thao tác ghi (async)
• Rate limiting bằng token bucket tại gateway.

Đánh đổi

Mục tiêu: không sập, chịu được traffic đột biến, độ trễ thấp.

Trong thực tế

Big Billion Day của Flipkart; flash sale Amazon.

Bug thường gặp

Nhiều key cache hết hạn cùng lúc → hàng loạt request dội xuống DB (cache stampede), hệ thống sập dây chuyền.

Tự hỏi lại

Ước lượng nhanh: mỗi server chịu ~10K RPS thì 1M RPS cần khoảng bao nhiêu server, cộng dự phòng?