「AWS Summit Tokyo 2015」リポート:ゼンリンデータコム
ゼンリンデータコムのビッグデータチームが指南、AWSマネージドHadoopの勘所とは?(1/2 ページ)
ゼンリンデータコムは、位置情報に基づく高度な行動分析にAWSのマネージドHadoopサービスを使っている。その道のりは険しく、自前システムから4世代目で現在の姿にたどり着いた。試行錯誤の末に導き出したAWS活用方針とは。
ゼンリンデータコムの高山敏典氏(モバイル開発本部 モバイル第二開発部 シニアエンジニア)と鈴木 順一郎氏(同部 エキスパートエンジニア)の両名が、ゼンリンデータコムが手掛ける「行動分析」サービスの中でどう「Amazon Web Services」(AWS)を活用しているかを語った。本稿は、アマゾン データ サービス ジャパンが2015年6月に開催したプライベートカンファレンス「AWS Summit Tokyo 2015」の講演と、その後の個別インタビューを基に構成している。
位置と地図のビッグデータで高度な行動分析
ゼンリンデータコムは住宅地図最大手、ゼンリンの子会社である。地図配信やナビゲーションソフトなど位置情報サービスの提供、システム開発を手掛ける。サービスの1つである行動分析は、人や車など移動体の刻々と変わる位置情報(どこにいる)と地図情報(どんなところ)を組み合わせて行動パターンを解析することで統計処理をする。運送会社が配車を最適化したり、観光地や商業施設内の動線を見える化したりできる。
つまり、行動分析では大量データを高速に処理するが必要ある。多くの移動体からリアルタイムや任意の間隔で取得する位置情報に加え、位置と照らし合わせる地図情報データベース「glid」のデータ量が膨大だ。ゼンリンデータコムがキーバリューストア型で開発したglidは緯度経度を住所に変換する際、3メートルメッシュの緻密さで施設や道路状況など多種の地図情報を付加できる。「数十億件のレコードを扱うこともある」(高山氏)とまさにビッグデータ解析だ。そのため、行動分析で使うシステムの性能要件は厳しく、分析ロジックも特殊である。当然、「システム開発・運用は自前にこだわってきた」(鈴木氏)。それが2013年よりデータ分析基盤にAWSを活用する。
2010年当時は完全に内製したオンプレミスのシステムだった。バッチ処理の場合、各移動体から取得した位置情報のログをいったん共有ディスクに保存、そこで生成した点列データを分析サーバに送り、処理結果をRDBMSに格納する流れである。「並列化の取り扱いが難しい共有ディスクを使いながら、いかに大量データを高速処理するか、チューニングを重ねた。ITエンジニアとしてのやりがいはあったが、肝心の分析ロジックの改良にまで手が回らなかった」(高山氏)
Hadoopのメリットを享受するためAWS活用へ
そうこうしているうちビックデータが流行し、オープンソースの分散データ処理ミドルウェアで汎用サーバをスケールアウトして並列処理できる「Hadoop」が耳目を集める。行動分析チームも2011年にHadoopを採用し、分析システムを再構築した。バッチ処理向けログデータの保存先は共有ディスクからHadoop向けNoSQLデータベース「HBase」に変え、複数の物理サーバを束ねた「Hadoopクラスタ」で大量データを並列処理する。「今まで自分たちでプログラミングしていた並列処理をHadoopに丸投げできるようになった」(高山氏)
ただ課題は残った。鈴木氏はこう振り返る。「十数台のマシンがフル回転状態で突発の案件を処理する余裕がなかった。マシン調達には時間がかかるし、予算的に固定コストのマシンを大量には抱えられなかった」。サーバがスケールアウトしないため、Hadoopのメリットが十分に得られなかったのだ。
そこでクラウド(AWS)である。行動分析チームは2012年、社内でAWS活用のパイロット役を担うべく、Hadoopシステムの物理サーバを仮想サーバの「Amazon Elastic Compute Cloud」(EC2)に置き換えた。これによりサーバ拡張は容易になった。もちろん初導入なので、「思ったほどコストが下がらない」「負荷分散がうまくいかない」などの問題も多々あったが、試行錯誤でAWSを自分たちのモノにしていった。
そして2013年、AWS活用を大幅に進め、現状のマネージド型Hadoop「Amzon Elastic MapReduce」(EMR)中心のシステムへと発展させる。いわば、データ分析基盤全体をAWS環境に委ねる格好だ。自前にこだわってきた行動分析チームにしてみれば方向転換である。高山氏はこう指摘する。「われわれがあれこれ調整してシステムの性能や可用性を上げることが本当に必要なのか。それはAWSに任せ、分析ロジックに専念した方がビジネス上のメリットは大きい」。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
製品資料
“攻撃者優位”なサイバーセキュリティ、全ての「穴」をふさぐ方法とは? -
製品資料
実際に悪用される脆弱性は4%前後 優先的に対処すべき脆弱性を把握するには? -
製品資料
HubSpotの機能を拡張する法人データ活用法 -
製品資料
面倒で非生産的な「名寄せ」作業 高精度&高効率に実施するには? -
製品資料
名刺管理には「その先」がある 成果のでない営業活動から脱却する秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
2
Netflixのバックエンドは「ほぼJava」 3000超のアプリを支える開発基盤の裏側
-
3
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
4
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
5
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
-
6
「WSUS」終了の時限爆弾 “本命”移行先ツールとMicrosoft提唱の新管理手法
-
7
IT人材の42%が転職予備軍 辞めさせない組織の4つの共通
-
8
「HDD終了」は本当か 巨大クラウド2社が下した大容量フラッシュへの決断
-
9
ただなのに「12時間以内の復旧」も要求 無償OSSに商用レベルを求める企業の末路
-
10
「OSの選定・導入」に関するアンケート
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない? 業務で自然に使う導線にする秘訣
-
3
財務・会計はAI活用でどう変わる? 調査で見えた変革の道筋
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
5
「脱Excel」か「Excel快適化」か? 現場にやさしい業務改善の進め方
-
6
「結局、一部の人しか使わない」 AI活用が業務に定着しない根本的な理由
-
7
コスト分析で見る「デバイス復旧」の代償 損失額から導きだされた投資戦略とは
-
8
Macの安全神話は崩壊? 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
9
ゼロトラストにおける「IDaaSの課題」と補完すべき重要機能とは?
-
10
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー