「キューベースの負荷平準化」「スロットリング」が役立つクラウドアプリは?クラウドベースアプリケーションのデザインパターン5選【後編】

クラウドベースアプリケーションの停止を避けるには、どのデザインパターンを選ぶのかが重要になる。有力な候補は「キューベースの負荷平準化」「スロットリング」だ。これらを採用したアプリケーションの特徴とは。

2021年10月01日 05時00分 公開
[Zachary FlowerTechTarget]

 クラウドサービスで稼働するアプリケーション(以下、クラウドベースアプリケーション)には、通信量の増加に対処するためのさまざまなデザインパターンが存在する。前編「『バルクヘッド』とは? 障害に強いクラウドアプリのデザインパターン」、中編「『リトライ』『サーキットプレーカー』を採用すべきクラウドアプリとは?」に引き続き、後編は「キューベースの負荷平準化」「スロットリング」を解説する。

4.キューベースの負荷平準化

 キューベースの負荷平準化(QBLL:Queue-Based Load Leveling)は、クラウドベースアプリケーションの規模拡大で生じる問題の緩和に適したデザインパターンだ。「キュー」は実行待ちの処理を保持しておくデータ構造を指す。データの受信時に複雑な処理を実行すると、アプリケーションの応答が遅延する恐れがある。QBLLは、アプリケーションがキュー内のリクエスト(処理要求)を自らのペースで受け取り、実行できるようにすることで、こうした遅延を回避する。メールの送信や集計値の計算など、すぐに結果を表示する必要がない処理が中心のアプリケーションで特に有効だ。

 API(アプリケーションプログラミングインタフェース)を利用して、データセットに不可逆的な変更を加えるアプリケーションを考える。このアプリケーションにAPIとの通信量の上限がある場合、リクエスト数やエンドユーザー数が急増すると、アプリケーションが遅延する可能性がある。QBLLを採用したアプリケーションであれば、一度に一定数のリクエストを実行することで、通信量が増加してもアプリケーションの動作に与える影響を抑えることが可能だ。

5.スロットリング

 QBLLの代替となるデザインパターンの一つがスロットリングだ。スロットリングは、「うるさい隣人」(ノイジーネイバー)問題への対処に効果を発揮する。うるさい隣人問題は、あるアプリケーションがサーバのリソースを過剰に消費することで、同サーバ内の他アプリケーションの動作に悪影響を及ぼすことだ。

 スロットリングは1つのクライアントがアプリケーションを利用できる頻度に制限を設ける。これにより、あるアプリケーションが他のアプリケーションに悪影響を及ぼすことを防ぐ。QBLLを補完して過剰な負荷を処理しつつ、キューがあふれないようにする役割も果たす。

 QBLLの説明で挙げたアプリケーションの例で考えよう。このアプリケーションは毎分約100件のリクエストを実行でき、上限を超えると高負荷のプロセスをキューにオフロードしてエンドユーザーに悪影響を与えないようにする。アプリケーションが呼び出すAPIは毎分約1万件のリクエストに応答可能とする。この場合、アプリケーションが実行できるリクエストは毎分約100件にとどまる。1000件のAPIリクエストを全て処理するのに約10分、1万件だと2時間近くかかる計算だ。

 このアプリケーションがリクエストを均等に実行するのであれば、全エンドユーザーのリクエストの実行速度が等しく遅くなる。つまり1人のエンドユーザーが1万件のリクエストを送信すると、他のエンドユーザーが送信したリクエストの実行開始が2時間遅れることになる。スロットリングによって、例えばエンドユーザー1人当たりのリクエスト数を毎秒1000件までに制限すれば、1人のエンドユーザーが送った1万件のリクエストを実行するためにアプリケーションが全リソースを独占する事態を防ぐことができる。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

ITmedia マーケティング新着記事

news083.jpg

FacebookやXなど主要SNSで進む「外部リンク制限」の実態 唯一の例外は?
ソーシャルメディアはかつてWebサイトへの重要な流入経路であった。しかし、最近は各プラ...

news079.jpg

生成AIとAR/VRで失った個性を取り戻す――2025年のSNS大予測(Instagram編)
万能だが特徴のはっきりしない「何でも屋」と化したInstagram。2025年の進化の方向性を予...

news128.jpg

「AIネイティブ世代」の誕生 10代のAI活用度合いは?
博報堂DYホールディングスのHuman-Centered AI Instituteは、AIに対する現状の生活者意識...