Ý chính: SaaS tăng trưởng lành mạnh khi trải nghiệm khách hàng, năng lực xử lý và chi phí trên mỗi kết quả được theo dõi cùng nhau.
Thuật ngữ trong bài: Capacity: năng lực xử lý an toàn; headroom: phần năng lực dự phòng; unit cost: chi phí cho một kết quả kinh doanh.
Bài toán thực tế
CPU trung bình che mất thời điểm tải cao nhất. Tự động mở rộng thường phản ứng sau khi hàng đợi đã tăng. Nếu chỉ nhìn tổng hóa đơn đám mây, đội ngũ khó biết chi phí nào tạo ra giá trị và chi phí nào là lãng phí.
Chi phí đám mây chỉ có ý nghĩa khi gắn với một đơn vị kết quả: yêu cầu thành công, tài liệu xử lý hoặc hành trình khách hàng hoàn tất. Tổng hóa đơn không cho biết phần nào tạo giá trị và phần nào là lãng phí.
Kế hoạch năng lực phải xét tải cao điểm, thời gian tự động mở rộng, sự cố một vùng và phần dự phòng cần thiết; tối ưu chi phí không được xóa mất biên an toàn đó.
Thiết kế và triển khai
- Mô hình hóa nhu cầu từ sự kiện nghiệp vụ, hệ số tải cao điểm và phân bố quy mô khách hàng.
- Đo thông lượng an toàn của mỗi tiến trình dưới giới hạn thật của cơ sở dữ liệu và dịch vụ phụ thuộc.
- Theo dõi chi phí trên mỗi hành trình thành công, khách hàng hoạt động hoặc gigabyte được xử lý bên cạnh SLO.
Mã minh họa: Cổng kiểm tra năng lực cho một bản phát hành
safeRps = loadTest.maxRpsWhere(p99 < sloP99 and errors < sloError)
minimumReplicas = ceil(peakRps / safeRps * 1.3)
assert capacityDuringZoneLoss >= peakRps
assert costPerSuccessfulJourney <= budgetNăng lực dự phòng không phải hằng số chung. Hãy suy ra nó từ sai số dự báo, độ trễ mở rộng, kịch bản sự cố và chi phí khi tài nguyên bão hòa.
Rủi ro cần tính trước
- Một chiến dịch làm thay đổi loại yêu cầu, khiến năng lực đo từ tải cũ không còn đúng.
- Tự động mở rộng thêm tiến trình nhưng đồng thời làm cạn kết nối cơ sở dữ liệu.
- Cắt chi phí loại bỏ phần dự phòng và khiến sự cố tiếp theo vượt ngân sách lỗi.
Nên theo dõi gì?
| Tín hiệu | Điều tín hiệu cho biết |
|---|---|
| Chi phí trên mỗi hành trình thành công | Gắn chi phí hạ tầng với giá trị thật được giao cho khách hàng. |
| Mức xử lý đồng thời so với năng lực an toàn | Cho thấy điểm bão hòa trước khi CPU chạm 100%. |
| Tỷ lệ tài nguyên nhàn rỗi, việc thử lại và công việc lãng phí | Phân biệt chi phí có thể cắt với năng lực dự phòng cần giữ. |
Đưa vào production từng bước
Bắt đầu với một hành trình có chi phí cao và đo chi phí trên mỗi kết quả hàng tháng. Thiết lập năng lực an toàn bằng kiểm thử lặp lại được, đưa ngưỡng vào cổng triển khai, rồi mới điều chỉnh tự động mở rộng và cam kết mua tài nguyên dài hạn.
Điều cần nhớ
SaaS hiệu quả về chi phí đến từ năng lực được đo rõ và chi phí gắn với kết quả kinh doanh, không phải một đợt cắt giảm hóa đơn cuối quý.