一、高并發、高吞吐
總的來說,高吞吐量和高并發都是提高系統的處理能力,但它們是兩個獨立的概念,也就是說一個系統可以同時具有高吞吐量和高并發,也可以只具有其中一種。
例如,一個高吞吐量的系統可以快速處理大量請求,但并不能同時處理很多請求;而一個高并發的系統則可以同時處理多個請求,但每個請求的處理速度可能較慢。
如何在高吞吐量和高并發之間做取舍
在高吞吐量和高并發之間做取舍時,需要考慮系統的要求和性能瓶頸。
如果系統的要求是處理盡可能多的請求,那么應該重點關注吞吐量,通過優化系統資源利用率和請求處理效率來提高吞吐量。如果系統的要求是在高并發情況下保證穩定性,那么應該重點關注并發能力,通過優化線程池管理、請求調度等方面來提高并發能力。另外,也可以考慮在硬件層面增加機器數量來提高系統的吞吐量和并發能力。延伸閱讀:
二、QPS是什么
QPS:Queries Per Second是衡量信息檢索系統(例如搜索引擎或數據庫)在一秒鐘內接收到的搜索流量的一種常見度量。該術語在任何請求-響應系統中都得到更廣泛的使用,更正確地稱為每秒請求數(RPS:Request Per Second)。
高性能、高并發、高可用(簡稱“三高”)要求的系統必須注意其QPS,才能知道何時擴容系統以處理更多請求。