C3 · Load Balancer và các thuật toán cân bằng tải

C3 · Middle · cốt lõi

Như người điều phối xếp hàng ở ngân hàng: chia khách cho các quầy sao cho không quầy nào quá tải.

Cốt lõi

• Round Robin: xoay vòng Server1 → Server2 → Server3.
• Least Connections: gửi đến server đang có ít kết nối nhất.
• IP Hash: hash IP client → luôn về cùng một server (sticky).
• Weighted: server mạnh (trọng số cao) nhận nhiều request hơn.

Đánh đổi

Request đồng đều → Round Robin. Request dài/không đều (WebSocket) → Least Connections. Cần giữ session → IP Hash (nhưng lệch tải).

Trong thực tế

AWS ELB dùng Round Robin.

Bug thường gặp

Lưu session trong RAM của app server; LB chuyển request sang server khác → người dùng bị đăng xuất ngẫu nhiên.

Tự hỏi lại

LB L4 khác L7 thế nào? Health check? Bản thân LB có phải single point of failure không?