Throughput
スループットとは、単位時間あたりに処理されるリクエスト数やデータ量(QPS/RPS/BPS)で、システムの処理能力を測る指標である。
目的
システムの処理能力を定量化し、キャパシティプランニングの指針とする。
メカニズム
QPS は毎秒のリクエスト数である。CPU/メモリ/IO/ネットワーク/ロックが上限を決める。リトルの法則:L = λW(平均並行数 = 到着率 × 平均レイテンシ)。スループットとレイテンシは通常トレードオフで、高スループットはしばしばレイテンシを上げる。
ユースケース
- パフォーマンスの測定
- キャパシティプランニング
- システム設計