2021年10月01日 05時00分 公開
特集/連載

「キューベースの負荷平準化」「スロットリング」が役立つクラウドアプリは?クラウドベースアプリケーションのデザインパターン5選【後編】

クラウドベースアプリケーションの停止を避けるには、どのデザインパターンを選ぶのかが重要になる。有力な候補は「キューベースの負荷平準化」「スロットリング」だ。これらを採用したアプリケーションの特徴とは。

[Zachary Flower,TechTarget]

 クラウドサービスで稼働するアプリケーション(以下、クラウドベースアプリケーション)には、通信量の増加に対処するためのさまざまなデザインパターンが存在する。前編「『バルクヘッド』とは? 障害に強いクラウドアプリのデザインパターン」、中編「『リトライ』『サーキットプレーカー』を採用すべきクラウドアプリとは?」に引き続き、後編は「キューベースの負荷平準化」「スロットリング」を解説する。

4.キューベースの負荷平準化

 キューベースの負荷平準化(QBLL:Queue-Based Load Leveling)は、クラウドベースアプリケーションの規模拡大で生じる問題の緩和に適したデザインパターンだ。「キュー」は実行待ちの処理を保持しておくデータ構造を指す。データの受信時に複雑な処理を実行すると、アプリケーションの応答が遅延する恐れがある。QBLLは、アプリケーションがキュー内のリクエスト(処理要求)を自らのペースで受け取り、実行できるようにすることで、こうした遅延を回避する。メールの送信や集計値の計算など、すぐに結果を表示する必要がない処理が中心のアプリケーションで特に有効だ。

 API(アプリケーションプログラミングインタフェース)を利用して、データセットに不可逆的な変更を加えるアプリケーションを考える。このアプリケーションにAPIとの通信量の上限がある場合、リクエスト数やエンドユーザー数が急増すると、アプリケーションが遅延する可能性がある。QBLLを採用したアプリケーションであれば、一度に一定数のリクエストを実行することで、通信量が増加してもアプリケーションの動作に与える影響を抑えることが可能だ。

5.スロットリング

 QBLLの代替となるデザインパターンの一つがスロットリングだ。スロットリングは、「うるさい隣人」(ノイジーネイバー)問題への対処に効果を発揮する。うるさい隣人問題は、あるアプリケーションがサーバのリソースを過剰に消費することで、同サーバ内の他アプリケーションの動作に悪影響を及ぼすことだ。

 スロットリングは1つのクライアントがアプリケーションを利用できる頻度に制限を設ける。これにより、あるアプリケーションが他のアプリケーションに悪影響を及ぼすことを防ぐ。QBLLを補完して過剰な負荷を処理しつつ、キューがあふれないようにする役割も果たす。

 QBLLの説明で挙げたアプリケーションの例で考えよう。このアプリケーションは毎分約100件のリクエストを実行でき、上限を超えると高負荷のプロセスをキューにオフロードしてエンドユーザーに悪影響を与えないようにする。アプリケーションが呼び出すAPIは毎分約1万件のリクエストに応答可能とする。この場合、アプリケーションが実行できるリクエストは毎分約100件にとどまる。1000件のAPIリクエストを全て処理するのに約10分、1万件だと2時間近くかかる計算だ。

 このアプリケーションがリクエストを均等に実行するのであれば、全エンドユーザーのリクエストの実行速度が等しく遅くなる。つまり1人のエンドユーザーが1万件のリクエストを送信すると、他のエンドユーザーが送信したリクエストの実行開始が2時間遅れることになる。スロットリングによって、例えばエンドユーザー1人当たりのリクエスト数を毎秒1000件までに制限すれば、1人のエンドユーザーが送った1万件のリクエストを実行するためにアプリケーションが全リソースを独占する事態を防ぐことができる。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

Yahoo!広告がLINE広告と連携 「LINE NEWS」面への配信を開始
ヤフーとLINENが広告事業で初めての連携。

news019.jpg

人はなぜFacebookを離脱したくなるのか? プライバシー懸念を上回る理由
さまざまな懸念もよそに拡大する巨大SNS。一方でそこからログアウトする人々は何を思うの...

news117.jpg

化粧品の二次流通市場規模は推計1555億円――メルカリとアイスタイル調査
二次流通市場購入者の40.1%が、使ったことがない化粧品を試すための“トライアル消費”...