キーパーソンインタビュー

Hadoopの父、カッティング氏に聞く今後のビッグデータ活用法

「Hadoop」の生みの親の1人であるカッティング氏に、現在の活動、Hadoopの今後、サイバーセキュリティとビッグデータの関係について聞いた。

　2017年5月に英国ロンドンで開催された「Strata Data Conference」で、Computer Weeklyは「Hadoop」の生みの親の1人、ダグ・カッティング氏にインタビューした。同氏はHadoopディストリビューター企業Clouderaのチーフアーキテクトを務めている。

　カッティング氏は、Yahoo勤務時代に同僚と共に「Hadoop」を作り出したことが広く知られている。これは、データワークロードを分割して結果の出力を削減するというGoogleの「MapReduce」のアイデアを採用し、さらにそれを広くソフトウェアフレームワークに当てはめるもので、同氏の息子のおもちゃから名前を取ってHadoopと名付けた。

　今回は、サイバーセキュリティへのClouderaテクノロジーの新たな応用法、「Apache Spark」（並行処理フレームワーク）の役割、オープンソースの展望について同氏にインタビューを行った。

現在取り組んでいることを教えてください。

　ClouderaとIntelを支援し、「Apache Spot」プロジェクトに取り組んでいる。このプロジェクトはオープンソースを採用し、ビッグデータのスタイルをサイバーセキュリティに活用する試みだ。これは従来のアプローチとは異なり、これまでの攻撃を調べ、攻撃コードの中から特定の種類の行動パターンをスキャンするフィルターを準備する。

　従来のアプローチは、新しい手口の攻撃を捉えるのが難しい。だが、通常の行動パターンを定義するモデルを構築すれば、通常とは異なる行動を捕捉できる。

それは以前からある「異常検知」ではありませんか。何か違いがありますか。

　このアプローチでは、HadoopとSparkを使って以前よりも大量のデータを保存して処理する能力を備えている。さらに、企業がさまざまな侵入検知アプリケーションを開発できるように、ネットワークデータの標準形式の準備も試みている。そうすれば、サイバーセキュリティエコシステムが育成され、サイバーセキュリティのオープンデータモデルになる。

　Clouderaは業界横断的な活動を行ってきた。だが、今回は業界固有のデータをサポートすることも考えている。通信会社やIoTなどの業界向けの活動を行う機会もあるだろう。

オープンソースはビジネスにとって力になるのでしょうか。CIO（最高情報責任者）は、オープンソースが提供されなくなることを懸念しています。

　そんなことはない。オープンソースはビジネスに必要なものだ。基本的なストレージやデータの処理に、非オープンソース技術を導入する企業は少なくなっている。また、オープンソースはそのプロセスに多くの人々が関与するため、ソフトウェア開発のモデルとしても優れている。

　テクノロジーを管理する組織が1つだけなら、高い利益が見込める。だが、このような組織は、既存のビジネスが脅かされない限り、根本的な変更を加えることはなかなかないだろう。

　例えばClouderaは、当初からHadoopのMapReduce要素をコンポーネントの中核として含んでいた。Sparkでもこれを踏襲しているが、より優れたツールに仕上がっている。

Clouderaには、オリジナルのHadoopテクノロジースタックがどの程度含まれていますか。

　「HDFS」（Hadoop Distributed File System）、MapReduce、「YARN」（Yet Another Resource Negotiator）は、今でも重要な要素になっている。例えば、「Uber」はMapReduceを使用している。MapReduceはまだその役割を終えていないものの、機械学習アルゴリズムには不向きだ。

　Sparkには機械学習向けのライブラリがある。他にも、ストリーミングを行っているなら「Apache Kafka」（メッセージングシステム）や「Spark Streaming」も利用できる。

2017年は、Hadoopの進化においてどのような位置付けになるでしょう。以前のインタビューでは、Hadoopを使用してコストを削減することから、より革新的なビジネスモデルの支援へと移行すると話していただきました。現在も、ストレージのコスト削減が主目的でしょうか。

この記事の著者

関連記事

• 

  機器の低価格で開かれた仮想現実（VR）の医療利用

• 

  十分に進化した生体認証は“手に埋め込んだチップ”すら不要

新着ホワイトペーパー PR

• 事例
  [日本オラクル株式会社] ピンチをチャンスに変えたEPR製品は？　先行企業の導入事例3選
• 技術文書・技術解説
  [日本オラクル株式会社] 無自覚なリスク　秘伝Excelファイルが監査の壁、不正・ミスの温床となる理由
• 製品資料
  [日本オラクル株式会社] 戦略的経理の第一歩　失敗のない「脱Excel」を実現する秘訣とは？
• 技術文書・技術解説
  [日本オラクル株式会社] いまさら聞けないオンプレERPとクラウドERPの違い　最適な製品をどう見極める？
• 事例
  [株式会社ビザスク] 連結売上高が約2倍に成長、富士フイルムが実践した新規事業創出の戦略とは？