Đo Lường Độ Trễ trong Hệ Thống: P95 và P99 là gì ?
Tiêu chí đo lường độ trễ (latency) là một khía cạnh quan trọng trong việc đánh giá hiệu suất của một hệ thống. Trong bài viết này, chúng ta sẽ tìm hiểu về hai chỉ số thường được sử dụng để đo lường độ trễ, đó là P95 và P99.
Độ trễ P95 (Percentile 95)
P95 là một số liệu thống kê thường được sử dụng để mô tả độ trễ mà 95% các truy vấn hoặc yêu cầu trong một tập dữ liệu có giá trị thấp hơn nó. Nó đại diện cho phần centile thứ 95 của phân phối độ trễ. Điều này có nghĩa là chỉ có 5% số lượng lớn hơn giá trị P95. Ví dụ, nếu P95 độ trễ của một hệ thống là 100ms, điều này có nghĩa là 95% các yêu cầu được xử lý dưới 100ms.
Độ trễ P99 (Percentile 99)
P99 tương tự như P95, nhưng nó tập trung vào phần centile thứ 99 của phân phối độ trễ. Nó đại diện cho giá trị mà chỉ có 1% số lượng lớn hơn nó. Nếu P99 độ trễ là 200ms, thì chỉ có 1% các yêu cầu được xử lý trên 200ms.
Ví dụ tính toán
Giả sử chúng ta có một hệ thống xử lý yêu cầu và có tập dữ liệu thời gian độ trễ của các request như sau: 200ms, 50ms, 60ms, 90ms, 70ms, 100ms, 80ms, 150ms, 2s, 15s.
Trong tập dữ liệu trên, chúng ta có tất cả 10 giá trị được đo lường qua 10 request tới hệ thống . Chúng ta có thể thấy giá trị trung bình của tập dữ liệu trên là 1.78s. Với số liệu này , chúng ta chưa thể đưa ra kết luận rằng thời gian để hệ thống trả về kết quả xấp xỉ là 1.78s giây khi mà dữ liệu của chúng ta đang có phân bố không đồng đều . Các giá trị 2s và 15s làm thay đồi ý nghĩa của giá trị trung bình khi mà đa số các request của chúng ta có thời gian đáp ứng khá thấp. Sau đây là các bước tính toán P90
Sắp xếp dữ liệu theo thứ tự tăng dần
Giá trị được sắp xếp theo chiều tăng dần là : 50ms, 60ms, 70ms, 80ms, 90ms, 100ms, 150ms, 200ms, 2s, 15s
Tính P95
Lấy Số lượng mẫu x 0.95 = 10 x 0,95 = 9.5
Trong trường hợp này, vị trí thứ 95% sẽ là giá trị thứ 9 là 2s
Chúng ta kết luận rằng 95% request có thời gian phản hồi nhanh hơn hoặc bằng 2s
Tính P99
Lấy Số lượng mẫu x 0.99 = 10 x 0,99 = 9.9
Trong trường hợp này, vị trí thứ 95% sẽ là giá trị thứ 9 là 2s
Chúng ta kết luận rằng 99% request có thời gian phản hồi nhanh hơn hoặc bằng 2s
-> Trong trường hợp này 2 kết quả như nhau, nhưng trong thực tế , số lượng requet lấy mẫu nên rất nhiều để cho kết quả mang tính tổng quát