ビッグデータのためのDWH基盤【第3回】
列単位格納でビッグデータの高速処理を実現するカラム型データベース
ビッグデータの高速処理基盤として注目されているカラム型データベース。代表製品は近年大手ベンダーが買収した製品が目立つ。カラム型データベースの特徴と、どのような場合に利用が適しているかを解説する。
カラム型データベース登場の背景
一般的なリレーショナルデータベース管理システム(RDBMS)は、もともと業務系アプリケーションの構築を想定して機能を進化させてきたが、1990年ごろから情報系アプリケーション、すなわちデータウェアハウス(DWH)の構築にも利用されるようになる。それに伴い、DWH構築に必要な機能、つまり、スタースキーマで実装されたデータベースの検索性能を向上させる機能も積極的に強化されるようになった。
このようなDWH向けに実装された機能の代表的なものに、ファクトテーブルを分割してスキャンできるパーティション機能や、特定の列に沿って集約したテーブルを自動的にメンテナンスするサマリーテーブル機能などがある。しかし、DWHにおいて頻繁に発生する全件検索のような処理は大量のディスクI/O処理を必要とするため、RDBMSでDWHを構築する際の一番のボトルネックとなっていた。
このようなDWH特有の問題を解決するために登場したのが「カラム型データベース」である。一般的なRDBMSではディスクへのデータ格納が行単位で行われるのに対して、カラム型データベースでは列(カラム)単位で行われる。カラム型データベースは、カラム(列)指向データベース、カラムストア型データベース、カラムナデータベースなどと呼ばれることもある。
ビッグデータのためのDWH基盤連載インデックス
カラム型データベースの特徴
カラム型データベースは、列単位でディスクへのデータ格納が行われるため、全てのレコードの特定のカラムを読み出す場合、隣接したディスク領域にアクセスすることで高速処理を可能にしている。
また、カラム型データベースでは、1つの列に含まれるデータは連続した同一データの重複を排除した形で格納されている。例えば、1行目から50行目までが「A」、59行目から80行目までが「B」、81行目から100行目までが「C」というデータが存在する列を想定してみよう。標準的なデータベースでは100フィールド分(例えば100ワード)の領域が必要だが、カラム型データベースでは、「A」「50(回連続)」「B」「30(回連続)」「C」「20(回連続)」という形で格納されるので、必要な領域は6フィールド分(例えば6ワード)で済む。このため読み出しの際に必要なディスクI/Oが削減され、結果として処理が高速化される。
さらにデータ圧縮の観点でいえば、列単位で格納されたデータは、文字列なら文字列、整数なら整数といった具合に同一の属性を持つため、標準的な圧縮アルゴリズムを適用した場合の効果が大きくなる。
もちろん、カラム型データベースが一般的なRDBMSより全ての局面で有利というわけではない。一般の業務アプリケーションでは、行単位の書き込み、読み込みの方が頻繁に発生するため、カラム型データベースはこのようなアプリケーションでは不利となる。DWHにおいても、特定の行に対する訂正のような処理が頻繁に発生するような場合は、注意が必要となる。
カラム型データベースのスイートスポット
本連載の第1回「読めば分かる! ビッグデータのためのデータウェアハウス(DWH)とは?」で、DWHのデータ構造としてスタースキーマと大福帳スキーマについて説明した。カラム型データベースは、もともと列単位でのデータ格納と圧縮効率の良さを特徴とするため、必ずしもスタースキーマに見られる正規化、集約を必要としない。そういった意味で、カラム型データベースは大福帳スキーマに適しているといえる。さらに、同じ大福帳スキーマであっても、カラム型データベースがより有利となる局面が2つある。
1つ目は、データのカーディナリティが低い場合である。カーディナリティはもともと集合理論の用語で「濃度」とも呼ばれる。データベース分野では、特定のカラムに含まれるデータの種類、もしくはレコードの数に対するデータの種類の比率を表す。いずれの場合でも、データの種類が少ない(比率が低い)ことを「カーディナリティが低い」という。例えば、「性別」というカラムに含まれるデータの種類は、「男性」「女性」の2種類しかないため、カーディナリティの低いデータの代表例といえる。連続した同一データの重複を排除した形で格納するカラム型データベースにおいては、カーディナリティが低い方が、同じ値が連続して現れる可能性がより高くなり、有利といえる。
もう1つは、ファクトレスファクトテーブルとなる場合である。スタースキーマにおけるファクトテーブルが数値カラムを持たない場合、そのファクトテーブルをファクトレスファクトテーブルと呼ぶ。
スタースキーマの場合、このような数値項目がないファクトテーブルには、疑似的な数値カラム(図では回線数)を作成し、値を常に1とする。
ファクトレスファクトテーブルは、スタースキーマにおける概念であるが、大福帳スキーマにおいても同様のケースは発生する。このような場合、データの集計処理とは数値カラムの値を足すのではなく、検索条件に合うデータ(レコード)の数をカウントする処理を意味する。当然、このような処理を行う場合、特定のカラムに対して全件(全レコード)の読み込みが頻繁に行われので、カラム型データベースが有利となる。
ビッグデータとカラム型データベース
カラム型データベースとして最初に登場したのはSybaseIQだと思われるが、その後、数々のカラム型データベースが登場し現在に至っている。特徴的なことは、2010年から2011年にかけて大手ベンダーに買収された製品が多いことである。
| 製品名 | ベンダー | 備考 |
|---|---|---|
| Aster Data | Teradata | 2011年にTeradataがAster Data Systemsを買収 |
| Greenplum | EMC | 2010年にEMCがGreenplumを買収 |
| InfiniDB | Calpont | OSSとしても入手可能 |
| Infobright | Infobright | OSSとしても入手可能 |
| SybaseIQ | SAP | 2010年にSAPがSybaseを買収 |
| VectorWise | Actian | 2011年にIngresから社名変更 |
| Vertica Analytics Platform | HP | 2011年にHPがVerticaを買収 |
また、ここにきて一般的なRDBMSにカラム型データベース的な機能を付加する動きも出始めている。「Oracle Exadata」のHybrid Columnar Compressionや「Microsoft SQL Server 2012」のカラムストアインデックスなどはその例といえる。このような傾向は、ビッグデータが注目されるようになったことと無関係ではなく、より大量のデータに対する分析アプリケーションのニーズが高まってきたことが背景にあると思われる。
ただし、NoSQLデータベースが短時間に大量に発生するデータの処理を並列処理によるスケールアウトで解決しようとしてきたのに対し、カラム型データベースはもともとDWHのボトルネックであるディスクI/Oを、列単位でのデータ格納と効率的なデータ圧縮で解決するという全く別のアプローチだといえる。
平井明夫
株式会社アイエイエフコンサルティング
マーケティング部 マーケティングディレクター
日本DEC(現日本ヒューレット・パッカード)、コグノス(現日本アイ・ビー・エム)、日本オラクルを経て、現在はアイエイエフコンサルティングに在籍。一貫してソフトウェア製品の開発、マーケティング、導入コンサルティングを歴任。特に、DWH、BIを得意分野とする。現在はBI技術の啓蒙のため、講演・執筆に積極的に取り組んでいる。
Copyright © ITmedia, Inc. All Rights Reserved.
ビッグデータのためのDWH基盤
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[o9ソリューションズ・ジャパン株式会社] 「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略 -
製品資料
[o9ソリューションズ・ジャパン株式会社] 「サプライチェーン最適化」実践ガイド:効果的な意思決定を実現する秘訣とは? -
製品資料
[株式会社リンプレス] 非デジタル/IT人材を「自走するDX推進者」に変えるための育成ロードマップ -
市場調査・トレンド
[ワンアイルコンサルティング株式会社] AI時代の組織設計:「判断と責任」を人に残すための2つの原則とは? -
技術文書・技術解説
[ワンアイルコンサルティング株式会社] システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「AIバブル」は崩壊するのか? 熱狂の後に来る“尻拭い”と4つの防衛策
-
2
パナソニックが国内製造26拠点のERPを「SAP S/4HANA」に統一 アドオン7割削減
-
3
守るべきは「開発者のフロー状態」 AIによる生産性改善の6施策
-
4
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
5
データを無断で暗号化し使用者に身代金を要求する詐欺に用いられるマルウェアとは?
-
6
「コピペ運用の限界」に直面するAI活用 7割超が“別画面”のまま使う理由は?
-
7
「HDD終了」は本当か 巨大クラウド2社が下した大容量フラッシュへの決断
-
8
【お知らせ】「クラウドインフラに関するアンケート調査」結果リポート
-
9
【お知らせ】「サーバ仮想化導入に関するアンケート調査」結果リポート
-
10
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
ホワイトペーパーランキング PR
-
1
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
2
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
3
生成AIで文書活用を進めるには? 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
DX/AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
6
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
7
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには?
-
8
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
9
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは?
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー