データウェアハウスのオンプレ構築の課題を解決するアプライアンス：オンプレ／クラウドDWH【前編】

データレイクを経てデータを分析するのがデータウェアハウス（DWH）だ。DWHのストレージ要件とはどのようなものか。オンプレミス構築の課題を解決してくれるDWHアプライアンスとはどのようなものか。

[Antony Adshead，Computer Weekly]

　「データレイクとは何か――メリット、ストレージ、オンプレ／クラウドの是非」で、データレイクの考え方を確認した。今回はデータウェアハウス（以下DWH）を定義し、DWHを構成するデータの種類、必要なストレージ、製品やサービスを紹介する。

　DWHを定義する鍵は、そこに流れ込むデータのソースを理解することだ。それが、データレイクだ。

関連記事

• 世界で最も人気のデータベース「MySQL」ベースの分析サービス登場
• あらゆるデータを一元的に分析できる「オープンデータレイク分析」
• データレイク、オンプレ運用か？　クラウド利用か？
• いまさら聞けない「データマート」の基礎　「DWH」との違いを納得させるには？
• データウェアハウスとしてのSAP HANA

　上記の記事で確認したように、データレイクは企業の全データのリポジトリだ。そこには構造化データも非構造化データも半構造化データもある。これを扱うのはデータサイエンティストの領分であり、ユーザーやほとんどのITスタッフにとってアクセスするようなものではない。

会員登録（無料）が必要です

続きを読む

　データはメタデータによって検索でき、ある程度はクエリ可能だ。だが分析する場所ではない。データレイクは分析作業前にデータを配置し、データを処理する場所だ。

　分析を行うのはDWHだ。無秩序なデータレイクとは異なり、DWHは正しく整理されておりデータベースの構造化データで構成される。

DWHのストレージ

　データレイクはほとんど整理されておらず、アクセスはそれほど高速でなくてもよい。配置されるデータには無数の形式がある。そのデータを把握するには、多くの場合「Apache Hadoop」や「Apache Spark」などのスキーマオンリードツールやAmazon Web Services（AWS）の「Amazon Athena」（訳注：SQLでAmazon S3をクエリするサービス）が必要になる。

　データがDWHに到着した時点でデータの精査とラングリング（分析用の前処理）は行われており、通常はETL（抽出、変換、読み込み）プロセスの対象として1つ以上のデータベースに保管される。

　データへのアクセスは分析が目的なのでトランザクションデータベースほどの高速性は必要ない。ただし分析処理を目的としてデータセットがアクセスまたはコピーされるので、入出力（I/O）は相当量のシーケンシャルトラフィックになると考えられる。

　こうした要件から、DWHのストレージにはある程度のパフォーマンス（高RPM、SAS）のHDDまたはフラッシュが利用されることが多い。シーケンシャルアクセスに適したQLCが要件を満たす可能性がある。

DWHのアプライアンス

　DWHを独自に構築することは可能だ。ストレージの仕様は比較的容易な部類に入る。だが、その影響が将来にも及ぶことを考えると複雑になる可能性がある。

　こうした課題を軽減するため、多くのベンダーがDWHアプライアンスを提供している。こうしたアプライアンスはハードウェア、OS、DBMS、ストレージ、ネットワークが構成済みで、スケールアウトされるものが多い。

　DWHアプライアンスを最初に提供したのがNetezzaだ。同社は2010年にIBMに買収され、ブランド名を変えて5年ほど存在したがやがて姿を消した。この状況が変わったのは2019年のことだ。IBMがRed Hatを買収し、フラッシュストレージ、FPGAでの処理、オンプレミスでもクラウドでも運用できる機能を備えたアプライアンスとしてNetezzaブランドを復活させた。

　DWHのパイオニア的存在のTeradataは、クラウドおよびハードウェアベースのDWHやビジネス分析、コンサルティングサービスを提供している。「Teradata Everywhere」により、ユーザーは超並列処理（MPP：Massively Parallel Processing）を使ってオンプレミスDWH、マルチクラウドストレージ、ハイブリッドクラウドストレージ全体のパブリックデータベースとプライベートデータベースにクエリを送信できる。「Teradata IntelliFlex」はフラッシュストレージを使って数百PBにスケーリングできるDWHだ。「Teradata intelliCloud」はデータとAnalytics as a Service用のセキュアなマネージドクラウドだ。

　EMCはしばらくの間オープンソースの「Greenplum」を自社のハードウェアにバンドルする形で販売していたが、現在はGreenplumのみで販売している。Greenplumは同社のDWHを軸とし、高度に並列化された「PostgreSQL」を基盤とする。このソフトウェアは大手ベンダーと競合するクラウドでの使用をターゲットにしているが、コンテナ化してオンプレミスで運用することも可能だ。

　OracleはかつてDWHアプライアンスを販売していた。現在は「Oracle Autonomous Data Warehouse」をクラウドサービスとして提供している。このサービスは「Oracle Database」を基盤とする。

後編では、AWS、「Microsoft Azure」「Google Cloud」が提供しているDWHのクラウドサービスを解説する。