「キューベースの負荷平準化」「スロットリング」が役立つクラウドアプリは？：クラウドベースアプリケーションのデザインパターン5選【後編】

クラウドベースアプリケーションの停止を避けるには、どのデザインパターンを選ぶのかが重要になる。有力な候補は「キューベースの負荷平準化」「スロットリング」だ。これらを採用したアプリケーションの特徴とは。

[Zachary Flower，TechTarget]

　クラウドサービスで稼働するアプリケーション（以下、クラウドベースアプリケーション）には、通信量の増加に対処するためのさまざまなデザインパターンが存在する。前編「『バルクヘッド』とは？　障害に強いクラウドアプリのデザインパターン」、中編「『リトライ』『サーキットプレーカー』を採用すべきクラウドアプリとは？」に引き続き、後編は「キューベースの負荷平準化」「スロットリング」を解説する。

4．キューベースの負荷平準化

併せて読みたいお薦め記事

さまざまなクラウドベースアプリケーション開発手法

• 「Rust」はなぜクラウドネイティブ開発者の間で大人気なのか？
• 「HCI」を「Kubernetes」でクラウドネイティブ化　VMwareとCiscoの動きは？

アプリケーション開発に役立つツール

• 「SDK」と「API」の違いとは？　どう使い分ける？
• プログラミング言語「Go」の魅力とは？　「Goで“脱COBOL”」の成功者が語る
• その変数は「パスカルケース」「キャメルケース」「スネークケース」「ケバブケース」のどれなのか？　命名規則の違い

　キューベースの負荷平準化（QBLL：Queue-Based Load Leveling）は、クラウドベースアプリケーションの規模拡大で生じる問題の緩和に適したデザインパターンだ。「キュー」は実行待ちの処理を保持しておくデータ構造を指す。データの受信時に複雑な処理を実行すると、アプリケーションの応答が遅延する恐れがある。QBLLは、アプリケーションがキュー内のリクエスト（処理要求）を自らのペースで受け取り、実行できるようにすることで、こうした遅延を回避する。メールの送信や集計値の計算など、すぐに結果を表示する必要がない処理が中心のアプリケーションで特に有効だ。

　API（アプリケーションプログラミングインタフェース）を利用して、データセットに不可逆的な変更を加えるアプリケーションを考える。このアプリケーションにAPIとの通信量の上限がある場合、リクエスト数やエンドユーザー数が急増すると、アプリケーションが遅延する可能性がある。QBLLを採用したアプリケーションであれば、一度に一定数のリクエストを実行することで、通信量が増加してもアプリケーションの動作に与える影響を抑えることが可能だ。

5．スロットリング

　QBLLの代替となるデザインパターンの一つがスロットリングだ。スロットリングは、「うるさい隣人」（ノイジーネイバー）問題への対処に効果を発揮する。うるさい隣人問題は、あるアプリケーションがサーバのリソースを過剰に消費することで、同サーバ内の他アプリケーションの動作に悪影響を及ぼすことだ。

　スロットリングは1つのクライアントがアプリケーションを利用できる頻度に制限を設ける。これにより、あるアプリケーションが他のアプリケーションに悪影響を及ぼすことを防ぐ。QBLLを補完して過剰な負荷を処理しつつ、キューがあふれないようにする役割も果たす。

　QBLLの説明で挙げたアプリケーションの例で考えよう。このアプリケーションは毎分約100件のリクエストを実行でき、上限を超えると高負荷のプロセスをキューにオフロードしてエンドユーザーに悪影響を与えないようにする。アプリケーションが呼び出すAPIは毎分約1万件のリクエストに応答可能とする。この場合、アプリケーションが実行できるリクエストは毎分約100件にとどまる。1000件のAPIリクエストを全て処理するのに約10分、1万件だと2時間近くかかる計算だ。

　このアプリケーションがリクエストを均等に実行するのであれば、全エンドユーザーのリクエストの実行速度が等しく遅くなる。つまり1人のエンドユーザーが1万件のリクエストを送信すると、他のエンドユーザーが送信したリクエストの実行開始が2時間遅れることになる。スロットリングによって、例えばエンドユーザー1人当たりのリクエスト数を毎秒1000件までに制限すれば、1人のエンドユーザーが送った1万件のリクエストを実行するためにアプリケーションが全リソースを独占する事態を防ぐことができる。

TechTarget発　先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。