「Google Cloud Next 2017」メルカリ事例【前編】
メルカリがデータ分析基盤に「Google BigQuery」を採用する理由
データ分析基盤に「Google Cloud Platform」(GCP)をはじめ、Googleのサービスを多数採用しているメルカリ。中でも積極的に活用しているのが「Google BigQuery」だ。BigQueryを中心としたGCP活用事例を紹介する。
2013年7月にサービスを開始して以来、わずか4年で日米合わせて7500万ダウンロードを記録したフリーマーケットアプリの「メルカリ」。1日に100万点以上の商品が出品され、月間100億円以上の流通額を誇るサービスだ。
メルカリ社では近年、データ分析基盤にクラウドサービス「Google Cloud Platform」(以下、GCP)をはじめ、Googleのサービスを多数採用している。中でも積極的に活用しているのがデータ分析サービス「Google BigQuery」(以下、BigQuery)だ。エンジニアではないプロデューサー職のスタッフも含め、全メンバーがBigQueryを使用できる環境を整えているという。本記事の前編では、Googleのクラウド関連イベント「Google Cloud Next 2017」(2017年6月開催)に登壇した、メルカリ 執行役員でVP of Engineeringの柄沢 聡太郎氏が行った講演を基に、BigQueryを中心としたGCP活用事例を紹介する。
BigQueryの効果と課題
同社はBigQueryを使う前、オンプレミス環境でHadoopクラスタを構築してデータ分析をしていた。しかしサービスの成長に伴いデータ量が増加し、クエリ結果が返るまでに時間がかかるようになったという。柄沢氏は「クエリの記述だけでも試行錯誤している中、分析スピードを速めてPDCA(計画、実行、評価、改善)サイクルを回していくことは、データ分析チームの課題になっていた」と話す。
2015年にBigQueryを試してみたところ、クエリを実行してから1時間かかっていた分析処理が、数秒または2、3分で終えられることが分かった。柄沢氏は「BigQueryに乗り換えるしかないと思った」と当時を振り返る。
各クライアントアプリで発生したユーザーの行動記録は全て一度ログサーバに集約し、BigQueryへ送る。またAPIサーバのログも、リアルタイムではないがログサーバに集約した後にストレージサービス「Google Cloud Storage」(GCS)を経由してBigQueryに届ける。
メルカリは、エンジニア以外のスタッフにもBigQueryが使える環境を整えている。こうすることでエンジニア以外のスタッフが、エンジニアに逐次依頼することなく分析データを得られるからだ。「せっかくBigQueryが高速にデータを返せるのに、社内のフローに時間がかかっていたらもったいない」(柄沢氏)。BigQuery使用の垣根を取り払った結果、例えばSRE(注)やサーバエンジニアは、障害やユーザーアクティビティーの調査に、カスタマーサービススタッフは顧客対応のための調査に、BigQueryを活用するようになったという。非エンジニアが実際どのようにBigQueryを活用しているのかは、後編(パネルディスカッションのレポート)で紹介する。
※注:Site Reliability Engineerの略。インフラの管理や自動化、障害対応といったインフラエンジニアとしての業務に加え、性能、可用性、拡張性を向上させるためにソースコードにも手を加えるソフトウェアエンジニアのこと。
BigQueryの活躍の幅が広がった結果、ある問題にぶつかった。いわゆる「BigQuery破産」の懸念だ。BigQueryはスキャンするデータ量に応じて課金するモデルだ。例えば期間を絞らずに全期間のデータをスキャンすれば、その分費用がかさむ。メルカリ社内では、莫大(ばくだい)な請求を恐れて、大きなデータのスキャンをためらう傾向が見受けられたという。「もっと広い期間で集計ができれば、より良い結果が得られたのに」という後悔はビジネスにとっては機会損失ともいえる。
そこで2016年末にBigQueryを定額料金で契約することにした。「定額料金は最低料金が高額なので、導入前に社内で使っている金額と、ためらってスキャンしなかった機会損失分の金額を試算した」(柄沢氏)。定額料金にしたことで、「クエリを投げるたびにお金がかかる」という心理的制約と、それによる機会損失を解消できたそうだ。またBigQueryへAPIを介してプログラムでクエリを投げ、その集計データを使って機械学習にデータを送るなど、データを抽出する用途にも使いやすくなったという。
ただし定額料金のBigQueryにも注意点はある。柄沢氏によれば「並列で一斉に仮想インスタンス(VM)の計算を走らせる定額料金プランには、コンピューティングパワーに上限がある」のだという。「最も安価なプランで最大2000VMだが、重いスキャンを走らせ過ぎると2000VMを使い果たしてしまい、他の人が利用するタイミングやバッチ処理の時間帯に重なると互いに影響が出てしまう」こともあったそうだ。VMの逼迫(ひっぱく)具合はパフォーマンス監視ツール「Stackdriver Monitoring」で確認できる。
今後の展望
講演の最後に柄沢氏は、メルカリのGCP活用の今後について、3つの方針を紹介した。1つ目はデータ分析基盤について。メルカリはこれからもBigQueryを中心に取り組んでいくという。リアルタイムメッセージングサービスの「Google Cloud Pub/Sub」やリアルタイムデータ処理サービス「Google Cloud Dataflow」、そして分散処理基盤「Apache Hadoop」「Apache Spark」のマネージドサービス「Google Cloud Dataproc」などを活用し、「データ処理のリアルタイム化や可視化を推進していく」と語る。
2つ目はマイクロサービスについて。グローバル組織化しているメルカリとしては、1拠点のSREが各拠点のITインフラを担うのではなく、各拠点のエンジニアが運用できる組織体制を作っていく必要がある。「コンテナ管理サービス『Google Container Engine(GKE)』はその1つの助けになるだろう」との考えを示す。
3つ目はGoogleの技術を自社の技術評価の指標にし、自社開発をするかどうかを見極めていく。柄沢氏は「Googleの技術は自分たちの技術力を測る指標でもあると思っている」と述べる。例えばGoogleには、動画を自動認識してカテゴリー付けする「Google Cloud Video Intelligence API」という技術がある。こうした技術を自社の機械学習エンジニアを投入して開発したとき、Googleよりも良い(ビジネスニーズに合った)結果を出せるだろうか。「Googleの技術を採用するか、自社で開発するかを判断するベンチマークの1つとしてGoogleを見ているという一面もある」と述べる。
後編では、メルカリの子会社であるソウゾウのGCP活用事例と、メルカリ、ソウゾウ、Googleの3社によるパネルディスカッションの模様をレポートする。
Copyright © ITmedia, Inc. All Rights Reserved.
「Google Cloud Next 2017」メルカリ事例
この記事の著者
関連記事
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには?
-
2
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
3
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
4
221人調査で分かった「情シス最大のストレス」は?
-
5
「データストレージの活用方法」に関するアンケート
-
6
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
7
自宅のWi-Fiが「遅い」「途切れる」本当の原因は? Dellが推奨する鉄則
-
8
本当に安いPCで十分か? “すぐ重くなる”を防ぐノートPC選びの絶対条件
-
9
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
10
Claudeの不可視透かしに批判殺到 著作権消失や誤判定に潜む企業リスク
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは?
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには? サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは?
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー