「Google Cloud Next 2017」メルカリ事例【前編】
メルカリがデータ分析基盤に「Google BigQuery」を採用する理由
データ分析基盤に「Google Cloud Platform」(GCP)をはじめ、Googleのサービスを多数採用しているメルカリ。中でも積極的に活用しているのが「Google BigQuery」だ。BigQueryを中心としたGCP活用事例を紹介する。
2013年7月にサービスを開始して以来、わずか4年で日米合わせて7500万ダウンロードを記録したフリーマーケットアプリの「メルカリ」。1日に100万点以上の商品が出品され、月間100億円以上の流通額を誇るサービスだ。
メルカリ社では近年、データ分析基盤にクラウドサービス「Google Cloud Platform」(以下、GCP)をはじめ、Googleのサービスを多数採用している。中でも積極的に活用しているのがデータ分析サービス「Google BigQuery」(以下、BigQuery)だ。エンジニアではないプロデューサー職のスタッフも含め、全メンバーがBigQueryを使用できる環境を整えているという。本記事の前編では、Googleのクラウド関連イベント「Google Cloud Next 2017」(2017年6月開催)に登壇した、メルカリ 執行役員でVP of Engineeringの柄沢 聡太郎氏が行った講演を基に、BigQueryを中心としたGCP活用事例を紹介する。
BigQueryの効果と課題
同社はBigQueryを使う前、オンプレミス環境でHadoopクラスタを構築してデータ分析をしていた。しかしサービスの成長に伴いデータ量が増加し、クエリ結果が返るまでに時間がかかるようになったという。柄沢氏は「クエリの記述だけでも試行錯誤している中、分析スピードを速めてPDCA(計画、実行、評価、改善)サイクルを回していくことは、データ分析チームの課題になっていた」と話す。
2015年にBigQueryを試してみたところ、クエリを実行してから1時間かかっていた分析処理が、数秒または2、3分で終えられることが分かった。柄沢氏は「BigQueryに乗り換えるしかないと思った」と当時を振り返る。
各クライアントアプリで発生したユーザーの行動記録は全て一度ログサーバに集約し、BigQueryへ送る。またAPIサーバのログも、リアルタイムではないがログサーバに集約した後にストレージサービス「Google Cloud Storage」(GCS)を経由してBigQueryに届ける。
メルカリは、エンジニア以外のスタッフにもBigQueryが使える環境を整えている。こうすることでエンジニア以外のスタッフが、エンジニアに逐次依頼することなく分析データを得られるからだ。「せっかくBigQueryが高速にデータを返せるのに、社内のフローに時間がかかっていたらもったいない」(柄沢氏)。BigQuery使用の垣根を取り払った結果、例えばSRE(注)やサーバエンジニアは、障害やユーザーアクティビティーの調査に、カスタマーサービススタッフは顧客対応のための調査に、BigQueryを活用するようになったという。非エンジニアが実際どのようにBigQueryを活用しているのかは、後編(パネルディスカッションのレポート)で紹介する。
※注:Site Reliability Engineerの略。インフラの管理や自動化、障害対応といったインフラエンジニアとしての業務に加え、性能、可用性、拡張性を向上させるためにソースコードにも手を加えるソフトウェアエンジニアのこと。
BigQueryの活躍の幅が広がった結果、ある問題にぶつかった。いわゆる「BigQuery破産」の懸念だ。BigQueryはスキャンするデータ量に応じて課金するモデルだ。例えば期間を絞らずに全期間のデータをスキャンすれば、その分費用がかさむ。メルカリ社内では、莫大(ばくだい)な請求を恐れて、大きなデータのスキャンをためらう傾向が見受けられたという。「もっと広い期間で集計ができれば、より良い結果が得られたのに」という後悔はビジネスにとっては機会損失ともいえる。
そこで2016年末にBigQueryを定額料金で契約することにした。「定額料金は最低料金が高額なので、導入前に社内で使っている金額と、ためらってスキャンしなかった機会損失分の金額を試算した」(柄沢氏)。定額料金にしたことで、「クエリを投げるたびにお金がかかる」という心理的制約と、それによる機会損失を解消できたそうだ。またBigQueryへAPIを介してプログラムでクエリを投げ、その集計データを使って機械学習にデータを送るなど、データを抽出する用途にも使いやすくなったという。
ただし定額料金のBigQueryにも注意点はある。柄沢氏によれば「並列で一斉に仮想インスタンス(VM)の計算を走らせる定額料金プランには、コンピューティングパワーに上限がある」のだという。「最も安価なプランで最大2000VMだが、重いスキャンを走らせ過ぎると2000VMを使い果たしてしまい、他の人が利用するタイミングやバッチ処理の時間帯に重なると互いに影響が出てしまう」こともあったそうだ。VMの逼迫(ひっぱく)具合はパフォーマンス監視ツール「Stackdriver Monitoring」で確認できる。
今後の展望
講演の最後に柄沢氏は、メルカリのGCP活用の今後について、3つの方針を紹介した。1つ目はデータ分析基盤について。メルカリはこれからもBigQueryを中心に取り組んでいくという。リアルタイムメッセージングサービスの「Google Cloud Pub/Sub」やリアルタイムデータ処理サービス「Google Cloud Dataflow」、そして分散処理基盤「Apache Hadoop」「Apache Spark」のマネージドサービス「Google Cloud Dataproc」などを活用し、「データ処理のリアルタイム化や可視化を推進していく」と語る。
2つ目はマイクロサービスについて。グローバル組織化しているメルカリとしては、1拠点のSREが各拠点のITインフラを担うのではなく、各拠点のエンジニアが運用できる組織体制を作っていく必要がある。「コンテナ管理サービス『Google Container Engine(GKE)』はその1つの助けになるだろう」との考えを示す。
3つ目はGoogleの技術を自社の技術評価の指標にし、自社開発をするかどうかを見極めていく。柄沢氏は「Googleの技術は自分たちの技術力を測る指標でもあると思っている」と述べる。例えばGoogleには、動画を自動認識してカテゴリー付けする「Google Cloud Video Intelligence API」という技術がある。こうした技術を自社の機械学習エンジニアを投入して開発したとき、Googleよりも良い(ビジネスニーズに合った)結果を出せるだろうか。「Googleの技術を採用するか、自社で開発するかを判断するベンチマークの1つとしてGoogleを見ているという一面もある」と述べる。
後編では、メルカリの子会社であるソウゾウのGCP活用事例と、メルカリ、ソウゾウ、Googleの3社によるパネルディスカッションの模様をレポートする。
Copyright © ITmedia, Inc. All Rights Reserved.
「Google Cloud Next 2017」メルカリ事例
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[キヤノンマーケティングジャパン株式会社] マンガで学ぶXDR/MDRのメリット、中小企業のセキュリティ強化になぜ有効か? -
市場調査・トレンド
[キヤノンマーケティングジャパン株式会社] 有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは -
製品資料
[キヤノンマーケティングジャパン株式会社] マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身 -
市場調査・トレンド
[SANS Training Japan 合同会社] “知識”では守れない AI時代に問われる実戦力の身に付け方 -
製品資料
[株式会社イトーキ] 会議室不足を解決する「AI×データ」活用術
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「Gemini 4 Argon」は出遅れたのか? Googleが狙う“逆転のシナリオ”
-
2
ChatGPTは“検索しまくり”でGeminiは“淡泊”? データが明かすAIの裏側
-
3
慶應義塾が「Notion」を選んだ理由 AI導入の盲点になる“情報のサイロ化”
-
4
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
5
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
6
「Copilot」はなぜ放置される? “議事録要約止まり”を脱する処方箋
-
7
Microsoft 365移行で露呈した標準機能の限界 地方銀行は上長承認や「脱PPAP」をどう実現?
-
8
AmazonがMetaのAIエージェントの購入を拒否 情シスが問われる「AIの権限設計」
-
9
年収が増えても幸せになれない 給与増でエンジニアが直面する「幸福度の壁」
-
10
SAPやOracleが警戒する「ERPの土管化」 汎用AIとの主導権争いが激化
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
3
2026年のサイバーセキュリティには何が必要か? 最新データに学ぶ傾向と対策
-
4
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
5
「IT史に名を残すシステム障害」8選
-
6
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
7
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー