コンテンツへスキップ
uencoder

Throughput

スループットとは、単位時間あたりに処理されるリクエスト数やデータ量(QPS/RPS/BPS)で、システムの処理能力を測る指標である。

目的

システムの処理能力を定量化し、キャパシティプランニングの指針とする。

メカニズム

QPS は毎秒のリクエスト数である。CPU/メモリ/IO/ネットワーク/ロックが上限を決める。リトルの法則:L = λW(平均並行数 = 到着率 × 平均レイテンシ)。スループットとレイテンシは通常トレードオフで、高スループットはしばしばレイテンシを上げる。

ユースケース

  • パフォーマンスの測定
  • キャパシティプランニング
  • システム設計

関連用語

References