キューベースの負荷平準化（QBLL：Queue-Based Load Leveling）は、クラウドベースアプリケーションの規模拡大で生じる問題の緩和に適したデザインパターンだ。「キュー」は実行待ちの処理を保持しておくデータ構造を指す。データの受信時に複雑な処理を実行すると、アプリケーションの応答が遅延する恐れがある。QBLLは、アプリケーションがキュー内のリクエスト（処理要求）を自らのペースで受け取り、実行できるようにすることで、こうした遅延を回避する。メールの送信や集計値の計算など、すぐに結果を表示する必要がない処理が中心のアプリケーションで特に有効だ。

　API（アプリケーションプログラミングインタフェース）を利用して、データセットに不可逆的な変更を加えるアプリケーションを考える。このアプリケーションにAPIとの通信量の上限がある場合、リクエスト数やエンドユーザー数が急増すると、アプリケーションが遅延する可能性がある。QBLLを採用したアプリケーションであれば、一度に一定数のリクエストを実行することで、通信量が増加してもアプリケーションの動作に与える影響を抑えることが可能だ。

5．スロットリング

　QBLLの代替となるデザインパターンの一つがスロットリングだ。スロットリングは、「うるさい隣人」（ノイジーネイバー）問題への対処に効果を発揮する。うるさい隣人問題は、あるアプリケーションがサーバのリソースを過剰に消費することで、同サーバ内の他アプリケーションの動作に悪影響を及ぼすことだ。

　スロットリングは1つのクライアントがアプリケーションを利用できる頻度に制限を設ける。これにより、あるアプリケーションが他のアプリケーションに悪影響を及ぼすことを防ぐ。QBLLを補完して過剰な負荷を処理しつつ、キューがあふれないようにする役割も果たす。

　QBLLの説明で挙げたアプリケーションの例で考えよう。このアプリケーションは毎分約100件のリクエストを実行でき、上限を超えると高負荷のプロセスをキューにオフロードしてエンドユーザーに悪影響を与えないようにする。アプリケーションが呼び出すAPIは毎分約1万件のリクエストに応答可能とする。この場合、アプリケーションが実行できるリクエストは毎分約100件にとどまる。1000件のAPIリクエストを全て処理するのに約10分、1万件だと2時間近くかかる計算だ。

　このアプリケーションがリクエストを均等に実行するのであれば、全エンドユーザーのリクエストの実行速度が等しく遅くなる。つまり1人のエンドユーザーが1万件のリクエストを送信すると、他のエンドユーザーが送信したリクエストの実行開始が2時間遅れることになる。スロットリングによって、例えばエンドユーザー1人当たりのリクエスト数を毎秒1000件までに制限すれば、1人のエンドユーザーが送った1万件のリクエストを実行するためにアプリケーションが全リソースを独占する事態を防ぐことができる。