DWH製品紹介:EMCジャパン
「Greenplum」でEMCが目指すビッグデータ時代の「UAPコンセプト」
他社アプライアンス製品とは一線を画すEMCのデータ分析ソリューション「Greenplum」。ソフトウェア型DWH用データベース「Greenplum Database」とHadoopディストリビューション「Greenplum MR」を紹介する。
ソフトウェア技術だけでDWHを実現する「EMC Greenplum Database」
2000年代後半からビジネスインテリジェンス(BI)やデータウェアハウス(DWH)のソリューションが脚光を浴びる中、大手ベンダーによる独立系DWHベンダーの買収が相次いだ。IBMによるネティーザの買収、HPによるバーティカの買収などがその代表だが、中でもEMCによるGreenplumの買収は、ストレージベンダー最大手のEMCが本格的にDWH市場に参入することで、市場競争の一層の激化を予感させる動きとして注目を集めた。
2003年に米国で創業したGreenplumは、当時DWHの世界でトレンドになりつつあったアプライアンスには目をくれず、あくまでもソフトウェアによるDWHソリューションを志向し、独自の技術を詰め込んだDWHソフトウェア製品「Greenplum Database」の提供を続けていた。2010年にEMCに買収された後も、同製品は「EMC Greenplum Database」として変わらず提供されており、2011年1月にはこれをあらかじめハードウェアにセットアップしたアプライアンス製品「EMC Greenplum Data Computing Appliance」(以下、Greenplum DCA)の提供も開始している(関連記事:ビッグデータ対応のために進化するDWHアプライアンス)。
このように、現在ではソフトウェアとアプライアンスの2つの形態で提供されているGreenplum Databaseだが、あくまでもソフトウェアの技術だけでその機能を実現するという設計理念は今も変わっていない。逆に言えば、ハードウェアの種類は問わないということでもある。EMCジャパン データコンピューティング事業本部 テクノロジー&プロフェッショナルサービス部 テクニカル・コンサルタント 中村 完氏は、Greenplum Databaseの特徴について次のように説明する。
「サーバやCPU、メモリ、ディスクから通信機器に至るまで、コンポーネントは全てコモディティハードウェアで構成される。従って、専用ハードウェアを購入しなくても手持ちのハードウェアリソースを組み合わせて簡単にDWHシステムを構築できる」
ただし、専用ハードウェアを使わないとはいっても、システム全体のアーキテクチャはアプライアンス製品とほぼ変わらない。つまり、データ処理を複数ノードに分散して並列実行させるMPP(大規模並列処理)方式が取られている。これを、独自技術によりソフトウェアとコモディティハードウェアだけで実現しているのが、Greenplum Databaseの大変ユニークな点だ。アプライアンス製品であるGreenplum DCAにおいても同様で、システムを構成するハードウェアには全てコモディティ製品が採用されている。
ちなみにGreenplum DCAは、2012年2月時点では2機種が日本国内で提供されている。1つが標準グレードである「Greenplum DCA」。フルラック構成で144Tバイトのデータ容量と、1時間当たり10Tバイトのデータロード性能を持つ。もう1つが、大容量のディスク装置を採用した「Greenplum High Capacity DCA」で、最大496Tバイトのデータを格納可能となっている。さらに2012年中には、Greenplum DCAにSAS Instituteが提供する分析ソフトウェアの機能を組み込んだ「SAS High-Performance Analytics on Greenplum DCA」の提供が予定されているという。
独自技術による高速データロード
Greemplum DatabaseのMPPアーキテクチャは、ユーザーからのクエリ受け付けと結果セットの返却を担当する「マスターサーバ」と、実際のデータ処理を行う「セグメントサーバ」、そしてこれらの間をつなぐ「ネットワークインターコネクト」で構成される。セグメントサーバは通常複数台で構成され、それぞれが独立した専用のデータ領域を持つ。セグメントサーバ間でデータは一切共有しない「シェアードナッシング」方式を取るため、ノード間でのデータアクセス競合が発生せず、安定して高いスループットを発揮できる(関連記事:ビッグデータ対応のために進化するDWHアプライアンス)。
また、ソースシステムからデータをロードする処理には、独自の技術が採用されている。
「通常のDWH製品では、データのロードはマスターサーバを経由して行われるため、マスターサーバの性能がボトルネックになりやすい。しかしGreemplum Databaseはマスターサーバを経由せず、セグメントサーバに直接データをロードする。ロード処理は複数のセグメントサーバ間で分散して行われるため、ノード数を増やせば増やすほどロード性能はリニアに向上する。この高速ローディングの仕組みは、他社製品にはない大きな特徴だ」(中村氏)
このデータロードの仕組みは、Hadoopとの連携においても威力を発揮するという。HadoopのHDFSデータノードからGreenplum Databaseのセグメントサーバへ直接データを高速にロードできるとともに、逆方向のロード、つまりセグメントサーバからHDFSデータノードへのデータのアンロードも可能になっている。
「Hadoopとの間の双方向データ転送ができるため、ある特定のデータを処理する際に、HadoopとGreenplum Databaseのどちらで処理する方が効率が良いのか、データを互いに移動させながらトライ&エラーを繰り返すことで見極められる」(中村氏)
またGreenplum Databaseでは、Hadoopのファイルを外部テーブルとして定義できる。この機能を活用すれば、通常のSQL文を使ってHadoopのデータをGreenplum Databaseに取り込んだり、あるいはGreenplum Databaseを通じてそのまま結果セットとして取り出すことも可能だ。使い慣れたSQLでHadoopのデータを操作できることは、多くの開発者やデータベース技術者にとって大きなメリットになるだろう。
柔軟かつきめ細かい単位でのシステム拡張が可能
先に述べた通り、Greenplum Databaseはコモディティハードウェアだけでシステムを構成できる。これは、システムの拡張性の面で非常に大きなアドバンテージとなる。というのは、専用ハードウェアを採用するアプライアンス製品の場合、システムのキャパシティーを拡張する際、一般的には専用ハードウェアをある程度まとまった台数で増強する必要がある。しかしGreenplum Databaseの場合、セグメントサーバを1台単位でシステムに追加していけるので、非常にきめ細かい単位でシステムの処理性能とデータ容量を拡張できる。
また往々にして、専用ハードウェアで構成されるDWHシステムは、下位互換性が問題となる。つまり、ノードを追加してシステムを拡張しようとしても、ベンダーがその時点で提供している最新の製品が現在運用している旧バージョンの製品と互換性を持つとは限らない。そのため、既存システムの最新製品への丸ごとリプレースを余儀なくされることも多い。その点Greenplum Databaseは、追加するセグメントサーバのハードウェアの種類は問わないため、既存資産への投資を無駄にすることなく効率的にシステムを拡張していくことができる。これはアプライアンスでも同様で、Greenplum DCAは4分の1ラック単位で順次システムを拡張できるようになっている。
このように、システムの柔軟な拡張性があらかじめ担保されていることは、DWH導入のハードルを大幅に下げる効果があると中村氏は言う。
「既存の資産を生かしながら少しずつシステムを拡張できるので、導入時にキャパシティープランニングを厳密に行う必要がない。従って、将来のシステム規模の成長が読めない場合でも、気軽にスモールスタートできる」
また、Greenplum Databaseは多くの場合、サーバ内蔵のHDDを利用するが、外部ストレージアレイを利用することも可能だ。この場合には、ストレージ装置が備える高度なデータ管理機能を使って、高速バックアップや遠隔レプリケーションによる災害対策システムを組むことができる。これもGreenplum Databaseの高い拡張性がもたらすメリットの1つといえる。
エンタープライズ向けHadoopソリューション「EMC Greenplum MR」
Greenplum Databaseは、どちらかというとオーソドックスなDWHのソリューションを提供する製品だが、近年のデータ活用ソリューションではこれまでにない新たな要件が持ち上がってきている。いわゆる「ビッグデータ」だ。これまでにないほど大容量のデータ、しかもリレーショナルデータベース(RDB)のテーブルに格納された構造化データではなく非構造化データ、例えばWebやセンサー、ソーシャルネットワークなどで生成されるログの生データを分析することで、これまで得られなかった新たな知見を得ようという試みだ。
こうした分析用途に適したソリューションとして、近年注目を集めているのがHadoopだ。EMCではこのHadoopの技術を取り入れた新たなソリューション「EMC Greenplum MR」を2012年1月に発表した。これは、米MapR Technologiesが提供するHadoopディストリビューションを採用したもので、Hadoopをビジネスユースする上でウイークポイントとなっていた可用性や管理性などの点が大きく改善されている。また、もともとはJavaで実装されていたHadoopをインタフェース部分以外C++で新たに実装し直したことで、オリジナルのApache Hadoopと比べ2~5倍の性能向上を果たしているという。
また同社では、Greenplum DatabaseやGreenplum MRによるデータ管理基盤と、ユーザーがBIツールなどを使ってデータ分析を行うレイヤーの間を取り持つミドルウェア製品「EMC Greenplum Chorus」という製品を2012年秋ごろに提供予定だ。この新製品について、中村氏は次のように説明する。
「DWHやHadoopなどさまざまなデータ基盤に散在するデータベースを抽象化し、ユーザーがそれらを自由に組み合わせて柔軟に分析を行えるようにする機能を提供する。これまでに例のない、新しいジャンルの製品になるだろう」
製品、サービス、人材育成がUAPコンセプト
EMCでは、これらのGreenplumブランド製品群を組み合わせて実現する次世代のデータ分析ソリューションを、「Unified Analytics Platform」(UAP)と呼んでいる。UAPではデータベースに格納された構造化データからビッグデータに代表される非構造化データまで、全て同一プラットフォーム上で容易に活用できる世界が実現するという。
Greenplum関連コンテンツ
さらに同社では、UAPのコンセプトを推進するに当たり、製品やサービスのみならず人材の育成にも取り組んでいくという。
「いくら優れたシステムを構築しても、それを活用できる人材がいなければ宝の持ち腐れになってしまう。EMCではビジネスニーズを具体的なデータ分析の手法に落とし込むスキルを持った『Data Scientist』という新たな種類の人材の育成を提唱している。既に米国ではData Scientistのコンセプトは普及しつつある。われわれが目指すUAPは、システムだけではなくこうした人的スキルまでも包含したコンセプトだ」(中村氏)
Copyright © ITmedia, Inc. All Rights Reserved.
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
2
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
3
「Microsoft 365のセキュリティ運用」に関するアンケート
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには?
-
5
221人調査で分かった「情シス最大のストレス」は?
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
「データストレージの活用方法」に関するアンケート
-
8
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
9
AIで人を減らした企業がもう心変わり 「AIブーメラン現象」の実態
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は? Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは?
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには? サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは?
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー