Computer Weekly製品導入ガイド

英国気象庁はどうやって膨大なデータを処理しているのか

前例のない量のデータに対応している英天気予報サービス機関は、「怠慢な」オープンソースツールに支えられている。

　真のビッグデータを扱う状況になったとき、どんな課題に直面するかを正確に予想したければ、Met Office（英国気象庁）の事例が参考になる。

　世界最大級のスーパーコンピュータ数台を保有する同庁は、現在およそ60P（ペタ）Bものデータを保持し、1日当たり1P（ペタ）B前後のデータを処理している。同庁のデータアーカイブは1週間に約1.4PBずつ増大し、2020年までには300PBを超す見通しだ。

　「これより少ない量のデータ（たとえ現時点で多くの人に『ビッグ』データと呼ばれている量だったとしても）に対して通用しているデータ管理技術は、そうした領域に踏み込めば通用しなくなる」。最高情報責任者（CIO）のチャールズ・イーウェン氏は言う。「われわれが今直面している課題は、あと5～20年もすれば、大部分の組織が突き当たるだろう。多くの場所にデータセットを分散させる昔ながらの蓄積交換モデルは、いずれ通用しなくなる」

クラウドのデータ

　膨大な量のデータセットを自前のシステム経由で提供すれば、英国気象庁の帯域幅はたちまち飽和状態になる。そこで最初の課題は、一定量のビッグデータをパブリッククラウドに移転することだった。同庁はそのために、Amazon Web Services（AWS）の「Snowball」サービスを利用した。「AWSから最大100TBの膨大な容量のHDDが郵送されてくる。これに接続し、データを保存して返送すると、向こうで接続してクラウドストレージの『Amazon S3』に転送してくれる」とトムリンソン氏は説明する。

　これまでにクラウドに保存されたデータは80TB前後。英国気象庁が保存している総量に比べればほんの一部にすぎない。だが同庁は、最も多くの顧客の役に立つデータに重点を置いているという。「現時点ではわれわれが2016年に実施した全グローバルモデリングと、2013年～2016年の全英モデリング全てが含まれる。いずれはこれに加えて、新しいデータを何回にも分けて追加していく」

　多くのビッグデータセットと違って、気象データは多次元で構成され、従来のテーブル構造に当てはまらない。そこでデータは「Zオーダー曲線」を使って保存する。

関連記事

• 

  Office 2016だけではまねできない、Office 365の多彩なデータ処理機能

• 

  端末追跡に「Wi-Fi as a Service」……ワイヤレスネットワーク最新トレンド

新着ホワイトペーパー PR

• 技術文書・技術解説
  [Jamf Japan 合同会社] MDMだけでモバイルセキュリティは十分？　不足する対策を16項目でチェック
• 事例
  [Wrike Japan 株式会社] 世界的な家電メーカーが実践する「クリエイティブプロセス効率化」の方法とは？
• 事例
  [Wrike Japan 株式会社] 世界的テクノロジー企業に学ぶ、プロセス標準化とプロジェクト納品自動化の秘訣
• 事例
  [Wrike Japan 株式会社] ソニー・ピクチャーズ テレビジョンに学ぶ、次世代サービスデリバリーのヒント
• 事例
  [Wrike Japan 株式会社] ソミック石川に学ぶ、ICT浸透後に直面した「工数管理」の課題と解決策