Hortonworks、Cloudera、MapR
HDFSの落とし穴を回避する商用「Hadoop」ディストリビューション3選
HDFSで一般的なデータ保護とパフォーマンスの問題を回避する代替策となる3つの商用Hadoopディストリビューションを紹介する。
「Apache Hadoop」とそれに関連する「Hadoop Distributed File System」(HDFS)は、ビッグデータ環境におけるストレージと分析に広く使われている。だが、HDFSには、データ保護機能の弱さ、必要なリソースや学習すべき物事の多さなど、幾つかの制限がある。
企業がHDFSの落とし穴を回避するのに役立つ主要な商用Hadoopディストリビューションには、Hortonworksの「Hortonworks」、Clouderaの「Cloudera」、MapRの「MapR」の3つがある。Hortonworksはこの3つのディストリビューションの中で、HDFSに最も密接に実装できる。Clouderaは、Hadoopのプロジェクトカタログに追加できるプロジェクトという形で機能を強化する。MapRは早い時期から、HDFSが企業のデータセンターの実装で問題を起こす荷物を抱えていることを特定した。その結果、MapRはHDFSから手を引き、独自の対称ファイルシステムを採用している。
Hortonworks:100%オープンソースのプラットフォーム
Hortonworksの幹部は、顧客に同社の「Hortonworks Data Platform」(HDP)が100%オープンソースであることを理解してもらいたいと考えている。同社のビジネスモデルは、万全なサポートを受けた企業向けのHadoopプラットフォームをベースにしている。このプラットフォームは大きく成長する可能性を秘めた法人顧客も利用できる。Hortonworksは、2016年はじめの時点で800社の顧客基盤を持ち、年間利益は1億2200万ドルに上ると発表している。
同社は、Hadoopスタックの上位層で革命を起こす傾向がある。データのルーティング、変換、システムの調整ロジックを実現するために、Hortonworksは2015年に「Hortonworks Data Flow」(HDF)を導入している。これは、「Apache NiFi」「Apache Kafka」「Apache Storm」をベースにしている。HDFとHDPは個別に提供されることもあれば、統合した状態で提供されることもある。「モノのインターネット(IoT)」アプリケーションのデータを中央で集積して処理する基盤としてHadoopを使用する場合は、統合された状態のHDFとHDPが非常に役立つ。
ただし、HDFS、データライフサイクル管理用の「Apache Falcon」、データガバナンスとコンプライアンス用の「Apache Atlas」などのApache Foundationのプロジェクトに100%順守しているのが見られるのはストレージ層だ。
Clouderaは、専用のアドオンがあるオープンHadoopディストリビューションを提供している。
Clouderaは、850社の企業顧客が「Cloudera Data Hub」(CDH)という同社の商用Hadoopディストリビューションのソフトウェアサブスクリプションを契約していると発表している。Hortonworksと同様、ClouderaもApacheオープンソースコードを中心に置く企業向けのHadoopディストリビューションと位置付けている。ただし、Clouderaは共同開発用にオープンソースコミュニティーに提供されている専用アドオンのプロジェクトだけでなく、補完要素への進出や開発により積極的である。
ストレージに関連する例には以下の2つがある。
「Kudu」は、Hadoopエコシステムの新しいストレージエンジンとして位置付けられている。本来、HDFSは大規模なMapReduceプロセスをサポートするために設計されたものである。そのため、大量のシーケンシャルなアクセスが行われる環境で最善のパフォーマンスを発揮する。「HBase」は、SQLデータベースのオンライントランザクション処理(OLTP)を追加する目的で作成されているため、小規模なランダムアクセス環境で優れた機能を発揮する。なお、Kuduは基本的にHDFSのスケールをHBaseのOLTPの面と結び付ける。
Clouderaの「Cloudera Navigator」は、Hadoop向けのデータ管理製品である。データの発見、継続的な最適化、監査、整理、メタデータの管理、ポリシー施行の機能を備えている。これを使用すると、情報のライフサイクル管理や法規制の順守要件に対処できる。
Clouderaは、HDFSストレージをコンピューティング層から切り離すHadoopのユースケースを進んで取り入れている。CDHの今後のリリースでは、Intelの「3D XPoint」テクノロジーを高パフォーマンスの永続ストレージとして利用する予定だ。ノードベースの永続メモリは、頻繁にアクセスするデータにはローカルアフィニティを提供する。一方、アクセス頻度の低いデータにはHDFSストレージを使用する。また、Clouderaは、次のCDHのメジャーリリースで、イレージャーコーディングをサポートする予定だ。
さらに、ClouderaはEMCとも密接な関係がある。EMCの「Isilon」は、Hadoopの外部ストレージプラットフォームとしてサポートされており、今後のリリースでは機能の追加が予定されている。ClouderaはEMCと協力して、HadoopをEMCのDSSDフラッシュ製品に移植できるようにも取り組んでいる。
MapR:HDFSを使用しない選択肢
MapRは、同社の商用Hadoopディストリビューションである「Converged Data Platform」を継続的に開発するに当たって、先進的なアプローチを採用している。これは企業がHadoopを導入する際の障害をMapRが、その都度解決してきたことを意味する。この解決のプロセスは、NameNodeの脆弱(ぜいじゃく)性など、Apache HDFSで過去に明らかになった深刻な問題を回避する基本的なHadoopファイルシステムを実装することから始まっている。これは、スナップショット、データ管理機能、DR(災害復旧)用のデータ複製の堅牢な実装にまで及んでいる。
ストレージの観点では、この先進的な動きはMapRが最近提供した「Zeta Architecture」で見られる。Zetaでは、標準的なMapReduce、HBase、Sparkを含む、全てのMapRアプリケーションが、スケーラブルで分散型の共通ファイルシステムに読み書きを行う。これはHBaseのデータが必要なMapReduceプロセスで、HBaseのデータをインポートする必要がないからだ。HBaseのデータは、既にZetaのストレージ層に存在している。Zeta Architectureは、リアルタイム分析でHBaseやMapRの「MapR-DB」などのデータベースの使用をサポートしている。他にも、Hewlett Packard Enterprise(HPE)の「HP Vertica」、MySQL、Sybaseの「Sybase IQ」といったデータベースがサポートされている。また、ストレージのプロトコル標準としては、NFSや「Amazon S3」などがサポートされている。
MapRは、ClouderaやHortonworksのHadoopディストリビューションとは異なり、同社専用のストレージ環境を、外部ストレージプラットフォームの支援を必要としないものとして位置付けることを好んでいる。
Hadoopのストレージ関連ツールと付属のアプリケーション
ここ数年、HDFSの問題に対処する必要性を受け、多くのスタートアップが誕生している。データ管理とセキュリティを専門とするDataguise、データ複製とDRを専門するWANdiscoは、そのようなスタートアップの数例だ。
Dataguiseは、機微なデータ資産が存在する場所や全リポジトリどこに移動しているかにかかわらず、それらを検出、監査、保護、監視するデータセキュリティと管理のプラットフォームを提供する。また、前述の3つのHadoopディストリビューションは全てサポートされている。
WANdiscoの「Fusion Platform」は、安定した可用性とデータの整合性が保証されたパフォーマンスをサポートする主要な機能を提供している。これは、Hadoopディストリビューション、Hadoop対応のストレージシステム、クラウド環境の任意の組み合わせが対象になり、その距離も関係ない。複数のクラスタや、地理的に異なる場所にあるものも対象になる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[o9ソリューションズ・ジャパン株式会社] 「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略 -
製品資料
[o9ソリューションズ・ジャパン株式会社] 「サプライチェーン最適化」実践ガイド:効果的な意思決定を実現する秘訣とは? -
製品資料
[株式会社リンプレス] 非デジタル/IT人材を「自走するDX推進者」に変えるための育成ロードマップ -
市場調査・トレンド
[ワンアイルコンサルティング株式会社] AI時代の組織設計:「判断と責任」を人に残すための2つの原則とは? -
技術文書・技術解説
[ワンアイルコンサルティング株式会社] システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
2
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
3
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
4
パナソニックが国内製造26拠点のERPを「SAP S/4HANA」に統一 アドオン7割削減
-
5
LLMの「過学習」、正しく説明している文章はどれ?
-
6
「AIバブル」は崩壊するのか? 熱狂の後に来る“尻拭い”と4つの防衛策
-
7
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
8
高額な「AI PC」を一般従業員も使えたら? 費用のハードルを一気に下げる方法
-
9
守るべきは「開発者のフロー状態」 AIによる生産性改善の6施策
-
10
「企業内サーバ環境の利用実態」に関するアンケート
ホワイトペーパーランキング PR
-
1
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
2
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
3
生成AIで文書活用を進めるには? 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
DX/AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
6
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
7
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには?
-
8
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
9
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは?
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー