「アクセス集中」をどうさばくか
“W杯の熱狂”とビッグセールが重なったら? Amazonが挑む「パニック予測」
ブラックフライデーセールなどの急激なトラフィック増に対し、負荷検出後のシステム拡張では限界がある。Amazon.comは機械学習を用いて、いかに数千のサービスを事前拡張しているのか。
ECサイトのシステム運用において、ブラックフライデーやサイバーマンデーなど、大規模セールが開催される期間のトラフィック対策は頭の痛い問題だ。平常時の何倍もの負荷が急激に押し寄せる状況では、トラフィック増を検出してからサーバを増強する「リアクティブスケーリング」(負荷検出後の自動拡張)では処理が間に合わず、機会損失や顧客の買い物体験の悪化を招く恐れがある。
大手ECサイトを運営するAmazon.comにおいても、この課題は例外ではない。顧客が商品を検索し、カートに入れ、決済するという一連の行動は、背後で数千ものサービスを複雑に連鎖させる。1つの操作が他のサービスへの複数の呼び出しにつながるため、一部のサービスで処理が滞れば、システム全体のパフォーマンス低下を引き起こしてしまう。
この問題に対してAmazon.comが実践しているのが、過去のイベントデータと機械学習モデルを活用してトラフィックを予測し、スパイクが発生する前にあらかじめシステムを拡張する「プロアクティブスケーリング」(先回り型の自動拡張)だ。
巨大なECサイトは、いかにして需要の波を予測し、インフラ費用と可用性のバランスを取っているのか。その詳細な手法を解説する。
顧客が引き返す境界線の見極め方
2025年11月に開催されたクラウドネイティブ技術のカンファレンス「KubeCon + CloudNativeCon North America 2025」において、Amazon.comのプリンシパルエンジニアであるアルトゥール・ソウザ氏と、シニアアプライドサイエンティストのチュンペン・ワン氏が登壇した。両氏はセッションにおいて、大規模なトラフィック制御の裏側を明かした。
ソウザ氏は、負荷検出後の拡張手法が抱える課題として「MTT」(Mean time to traffic)を挙げる。これは、システムが負荷増を検出して新たなインスタンスを立ち上げてから、ヘルスチェックやキャッシュの事前読み込み(ウォームアップ)を終え、トラフィックを処理できる状態になるまでのタイムラグを指す。スパイクの立ち上がりが急な場合、この立ち上がり時間中に顧客に影響が出てしまう。
そこで重要になるのが「Breaking Point TPS」(TPS:Transactions Per Second)の把握だ。これはシステムが完全にクラッシュする時点ではなく、「カート追加」や「決済開始」といったビジネス上のサービス品質保証(SLA)を維持できなくなる許容限界値を示す。Amazon.comは、データベースや外部システムを含めてストレステストを実施し、この限界におけるCPUやメモリの使用率を詳細に記録している。これによって、各サービスがどれだけのスピードで拡張・縮小できるかという基準を設けている。
サーバレスアーキテクチャを採用していれば、こうした事前のキャパシティー計画は不要だと思う人もいるだろう。しかしソウザ氏は、「サーバレスであっても反応までのタイムラグは存在する」と指摘する。例えば、Amazon Web Services(AWS)が提供するフルマネージドNoSQLデータベース「Amazon DynamoDB」は、ピークイベントに備えてトラフィックが急増する前にテーブルの処理能力を引き上げておく事前ウォームアップAPIを利用している。コンテナや仮想マシン、サーバレスなど、どのような構成であっても、極端なピークイベントに対する事前の計画は不可欠だ。
リスクと費用のトレードオフに基づくキャパシティー計画
予測をキャパシティー計画に落とし込むプロセスについて、ワン氏は「全てのサービスを最悪の事態に備えて過剰に拡張すれば可用性は高まるが、インフラ費用は膨大になる」と説明する。ビジネス上の要求に応えつつ、無駄な支出を抑える仕組みが求められるのだ。
Amazon.comでは、ブラックフライデーなどのピークイベントに向け、1年先から長期的なトラフィック予測をAWSと共有し、データセンターの電源やラックの確保を進めている。予測には不確実性が伴うため、単一の予測値ではなく確率的な予測範囲を算出する。その上で、ビジネスリスクとインフラ費用のトレードオフを評価し、90パーセンタイル(P90:上位10%を除いた範囲をカバーする基準)などの基準を設けて最終的なキャパシティーを決定しているという。
システム全体の足並みをそろえることも不可欠だ。あるサービスへの1回の呼び出しが、別のサービスへの複数回の呼び出しを引き起こす「ファンアウト(多段呼び出し)比率」を監視し、システム全体でボトルネックが生じないようスケーリングの整合性を保っている。この比率を正しく把握することで、過不足のない的確なインフラ拡張が可能になる。
ブラジルのW杯の熱狂も予測に組み込む
トラフィック予測は過去のセール実績だけでは成り立たない。ワン氏は2022年の事例を紹介した。ブラジルのブラックフライデーセール当日、FIFAワールドカップでブラジル対セルビアの試合が開催されることになった。ブラジル全土が試合に注目するため、事業部門は「試合中は誰も買い物をしない」と予測した。
これを受け、データサイエンスチームは機械学習モデルに文化的な行動要因を組み込み、90分間の試合中の急激なトラフィック低下と、試合直後の急反発をピンポイントで予測した。この予測を事前に各担当者と共有することで、不要なインフラ拡張による費用を抑えつつ、試合終了後のスパイクに的確に備えることができたという。
インフラの拡張がクラウド上で容易になった現代においても、システム全体の依存関係を読み解き、データを活用して未来の需要に先回りする緻密な設計こそが、快適な顧客体験を支える要になっている。
本稿は、CNCF(Cloud Native Computing Foundation)が2025年11月25日に公開した動画「Keynote: Predictive Scaling and Capacity Planning With Machine Learni... Artur Souza & Chunpeng Wang」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
2
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
3
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
4
なぜ「Claude Code」拡張は消しても危ないのか? Cursorで不正版配信
-
5
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
6
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
7
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
8
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
9
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
10
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
「AIエージェント」は業務でどう役立つのか? 現場で進む活用例“10選”
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー