3. Sử dụng Load Balancer (Reverse Proxy)
Để cải thiện hiệu suất và độ tin cậy trong môi trường máy chủ, chúng ta có thể phân phối việc xử lý request trên nhiều máy chủ bằng load balancer. Nếu một trong các máy chủ bị lỗi, load balancer sẽ gửi các yêu cầu xử lý lưu lượng đến các máy chủ khác cho đến khi máy chủ bị lỗi hoạt động trở lại bình thường.
Load balancer cũng có thể sử dụng để phục vụ cho nhiều ứng dụng thông qua cùng một tên miền và cổng bằng một layer application reverse proxy. Các phần mềm có khả năng load balancer reverse proxy có thể kể đến HAProxy, Nginx hay Varnish.
Ưu điểm của mô hình này là có thể mở rộng bằng cách thêm nhiều máy chủ, và chống lại DDOS bằng cách hạn chế kết nối của người dùng xuống mức tần suất hợp lý. Tuy nhiên nếu load balacer không đủ hiệu suất hoặc bị cấu hình kém thì có thể trở thành nút cổ chai gây tắc nghẽn hệ thống cloud.
Ngoài ra điểm yếu chí mạng của mô hình này là nếu máy chủ load balancer bị lỗi thì cả hệ thống sẽ sập theo. Các vấn đề như nơi thực hiện chấm dứt SSL và xử lý đòi hỏi session cũng cần phải xem xét.
