「Google Cloud Next 2017」メルカリ事例【前編】
メルカリがデータ分析基盤に「Google BigQuery」を採用する理由
データ分析基盤に「Google Cloud Platform」(GCP)をはじめ、Googleのサービスを多数採用しているメルカリ。中でも積極的に活用しているのが「Google BigQuery」だ。BigQueryを中心としたGCP活用事例を紹介する。
2013年7月にサービスを開始して以来、わずか4年で日米合わせて7500万ダウンロードを記録したフリーマーケットアプリの「メルカリ」。1日に100万点以上の商品が出品され、月間100億円以上の流通額を誇るサービスだ。
メルカリ社では近年、データ分析基盤にクラウドサービス「Google Cloud Platform」(以下、GCP)をはじめ、Googleのサービスを多数採用している。中でも積極的に活用しているのがデータ分析サービス「Google BigQuery」(以下、BigQuery)だ。エンジニアではないプロデューサー職のスタッフも含め、全メンバーがBigQueryを使用できる環境を整えているという。本記事の前編では、Googleのクラウド関連イベント「Google Cloud Next 2017」(2017年6月開催)に登壇した、メルカリ 執行役員でVP of Engineeringの柄沢 聡太郎氏が行った講演を基に、BigQueryを中心としたGCP活用事例を紹介する。
BigQueryの効果と課題
同社はBigQueryを使う前、オンプレミス環境でHadoopクラスタを構築してデータ分析をしていた。しかしサービスの成長に伴いデータ量が増加し、クエリ結果が返るまでに時間がかかるようになったという。柄沢氏は「クエリの記述だけでも試行錯誤している中、分析スピードを速めてPDCA(計画、実行、評価、改善)サイクルを回していくことは、データ分析チームの課題になっていた」と話す。
2015年にBigQueryを試してみたところ、クエリを実行してから1時間かかっていた分析処理が、数秒または2、3分で終えられることが分かった。柄沢氏は「BigQueryに乗り換えるしかないと思った」と当時を振り返る。
各クライアントアプリで発生したユーザーの行動記録は全て一度ログサーバに集約し、BigQueryへ送る。またAPIサーバのログも、リアルタイムではないがログサーバに集約した後にストレージサービス「Google Cloud Storage」(GCS)を経由してBigQueryに届ける。
メルカリは、エンジニア以外のスタッフにもBigQueryが使える環境を整えている。こうすることでエンジニア以外のスタッフが、エンジニアに逐次依頼することなく分析データを得られるからだ。「せっかくBigQueryが高速にデータを返せるのに、社内のフローに時間がかかっていたらもったいない」(柄沢氏)。BigQuery使用の垣根を取り払った結果、例えばSRE(注)やサーバエンジニアは、障害やユーザーアクティビティーの調査に、カスタマーサービススタッフは顧客対応のための調査に、BigQueryを活用するようになったという。非エンジニアが実際どのようにBigQueryを活用しているのかは、後編(パネルディスカッションのレポート)で紹介する。
※注:Site Reliability Engineerの略。インフラの管理や自動化、障害対応といったインフラエンジニアとしての業務に加え、性能、可用性、拡張性を向上させるためにソースコードにも手を加えるソフトウェアエンジニアのこと。
BigQueryの活躍の幅が広がった結果、ある問題にぶつかった。いわゆる「BigQuery破産」の懸念だ。BigQueryはスキャンするデータ量に応じて課金するモデルだ。例えば期間を絞らずに全期間のデータをスキャンすれば、その分費用がかさむ。メルカリ社内では、莫大(ばくだい)な請求を恐れて、大きなデータのスキャンをためらう傾向が見受けられたという。「もっと広い期間で集計ができれば、より良い結果が得られたのに」という後悔はビジネスにとっては機会損失ともいえる。
そこで2016年末にBigQueryを定額料金で契約することにした。「定額料金は最低料金が高額なので、導入前に社内で使っている金額と、ためらってスキャンしなかった機会損失分の金額を試算した」(柄沢氏)。定額料金にしたことで、「クエリを投げるたびにお金がかかる」という心理的制約と、それによる機会損失を解消できたそうだ。またBigQueryへAPIを介してプログラムでクエリを投げ、その集計データを使って機械学習にデータを送るなど、データを抽出する用途にも使いやすくなったという。
ただし定額料金のBigQueryにも注意点はある。柄沢氏によれば「並列で一斉に仮想インスタンス(VM)の計算を走らせる定額料金プランには、コンピューティングパワーに上限がある」のだという。「最も安価なプランで最大2000VMだが、重いスキャンを走らせ過ぎると2000VMを使い果たしてしまい、他の人が利用するタイミングやバッチ処理の時間帯に重なると互いに影響が出てしまう」こともあったそうだ。VMの逼迫(ひっぱく)具合はパフォーマンス監視ツール「Stackdriver Monitoring」で確認できる。
今後の展望
講演の最後に柄沢氏は、メルカリのGCP活用の今後について、3つの方針を紹介した。1つ目はデータ分析基盤について。メルカリはこれからもBigQueryを中心に取り組んでいくという。リアルタイムメッセージングサービスの「Google Cloud Pub/Sub」やリアルタイムデータ処理サービス「Google Cloud Dataflow」、そして分散処理基盤「Apache Hadoop」「Apache Spark」のマネージドサービス「Google Cloud Dataproc」などを活用し、「データ処理のリアルタイム化や可視化を推進していく」と語る。
2つ目はマイクロサービスについて。グローバル組織化しているメルカリとしては、1拠点のSREが各拠点のITインフラを担うのではなく、各拠点のエンジニアが運用できる組織体制を作っていく必要がある。「コンテナ管理サービス『Google Container Engine(GKE)』はその1つの助けになるだろう」との考えを示す。
3つ目はGoogleの技術を自社の技術評価の指標にし、自社開発をするかどうかを見極めていく。柄沢氏は「Googleの技術は自分たちの技術力を測る指標でもあると思っている」と述べる。例えばGoogleには、動画を自動認識してカテゴリー付けする「Google Cloud Video Intelligence API」という技術がある。こうした技術を自社の機械学習エンジニアを投入して開発したとき、Googleよりも良い(ビジネスニーズに合った)結果を出せるだろうか。「Googleの技術を採用するか、自社で開発するかを判断するベンチマークの1つとしてGoogleを見ているという一面もある」と述べる。
後編では、メルカリの子会社であるソウゾウのGCP活用事例と、メルカリ、ソウゾウ、Googleの3社によるパネルディスカッションの模様をレポートする。
Copyright © ITmedia, Inc. All Rights Reserved.
「Google Cloud Next 2017」メルカリ事例
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する? シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か? PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える? 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣 -
製品資料
[サイボウズ株式会社] AIが「わざわざ使うツール」になっていない? 業務で自然に使う導線にする秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「全社配布Copilot」は使われないのか? 失敗に学ぶAI定着
-
2
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
3
ChatGPTは“検索しまくり”でGeminiは“淡泊”? データが明かすAIの裏側
-
4
なぜ「Gemini 4 Argon」は出遅れたのか? Googleが狙う“逆転のシナリオ”
-
5
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
-
6
損保ジャパンはなぜ「COBOL」を捨てなかったのか? 脱メインフレームの真相
-
7
「Wi-Fi 7」経由でWindowsが乗っ取られる? 最高権限奪取の恐怖
-
8
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
9
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
10
【漫画付き】ひとり情シス協会が明かす、RAG導入でしくじる企業「2つの共通点」
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険? 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
5
LLMが兵器化? 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
6
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
7
なぜRPA導入は頓挫する? シナリオ作成の壁を乗り越える解決策とは
-
8
生成AIを開発に導入しても効果が見えない? 実証実験で分かった成果と課題
-
9
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー