AIのためのインフラとは【中編】
クラウドか、オンプレミスか? 「AIインフラ戦略」を決める6つの条件
AIワークロードを処理したり、そのためのデータを保管したりする場所は、企業のデジタル戦略に影響を与える。インフラの物理的な場所とデータの配置を検討する上で、何を考慮すべきか。
人工知能(AI)技術の進化と普及に伴い、企業はAIワークロード(AI技術関連のタスク)の効率的な処理に頭を悩ませるようになった。従来のITインフラでは処理し切れない膨大な計算処理や、大量のデータ管理が必要になったためだ。AIモデルの性能を最大限に引き出すためには、どのような配置戦略を取るべきなのか。
「AIインフラをどこに置くべきか」を決める6つの条件
併せて読みたいお薦め記事
連載:AIのためのインフラとは
AIインフラに必要な要素
企業システムが分散化する中、AIワークロードはマルチクラウド(複数のクラウドサービスを併用しているシステム)やハイブリッドクラウド(クラウドサービスとオンプレミスインフラを併用しているシステム)にまたがる傾向にある。データセンター運営事業を手掛けるDigital Reality Trustで、アジアパシフィック担当ディレクターサービスアーキテクトを務めるダニエル・オング氏は、AIインフラ(AIワークロードのためのインフラ)の物理的ロケーションに影響を与える要因として以下を挙げる。
要因1.データのプライバシーとセキュリティ
機密性を要するデータや厳しい規制の対象となるデータは、厳重な管理とセキュリティを適用できるようにする目的で、オンプレミスシステムに置くのが望ましい。一方で機密性を必要としないデータは、コロケーション(IT機器の設置スペースを貸すサービス)やクラウドサービスへの配置が適する。
要因2.遅延
自動運転などのリアルタイム処理が必要なアプリケーションは、データ転送の遅延を最小限に抑える必要がある。この場合、オンプレミスシステムまたはエッジコンピューティングが有効だ。
要因3.コンピューティング要件
ディープラーニング(深層学習)のトレーニングのような計算負荷の高いタスクには、ハイパフォーマンスコンピューティング機能を備えた専用のオンプレミスハードウェアが適する。負荷の低いタスクであれば、クラウドサービスを活用することで、コスト効率を高められる可能性がある。
要因4.コストの最適化
オンプレミスインフラには、ハードウェアやソフトウェア、継続的なメンテナンスのための初期投資が必要だ。クラウドサービスは従量課金モデルを採用しており、初期コストを抑えることができる。ただし特定のワークロードがCPUやストレージなどのリソースを継続的に必要とする場合、長期的にクラウドサービスを利用すると、オンプレミスシステムのコストを上回る可能性がある。
要因5.スケーラビリティと適応性
クラウドサービスを導入することで、必要なときにリソースをスケーリングできるようになる。オンプレミスインフラだと、リソースの増減に手動でハードウェアをアップグレードしなければいけない場合があり、スケールアップやスケールダウンが遅れる可能性がある。
要因6.専門知識と管理
オンプレミスインフラを管理するには、AIワークロードのためのハードウェアとソフトウェアに精通した専任のITスタッフが必要だ。一方でクラウドサービスは、ベンダーがインフラのメンテナンスとスケーリングを実行するため、自社でインフラを管理する手間を削減できる。
Dell Technologiesでアジアパシフィック、日本、中国本土担当のプレジデントを務めるピーター・マーズ氏は、AIインフラは通常、集中型と分散型のインフラが混在していると指摘する。
企業は自社の業務や自社製品/サービスにAI技術を取り入れる際、オンプレミスシステムを使用しつつ、大量のデータを扱うAIワークロードの処理にはクラウドサービスを活用している。「このハイブリッドなアプローチによって、企業はそれぞれのニーズや要件に応じて、集中型と分散型インフラの両方のメリットを享受できる」とマーズ氏は言う。
データをどこに置くか
AIモデルを強化、改善するために必要なデータには課題がある。Oracleの戦略オペレーション担当バイスプレジデントであるエリック・ベルゲンホルツ氏によれば、大量のデータがシステムに分散したままだと、AI技術を効果的に使うことは難しい。
「データは増え続けており、さまざまなソースやフォーマット、保管場所がある。品質も違い、利用するツールも異なる」とベルゲンホルツ氏は言う。
「AIモデルがさまざまな場所に存在するようになった現在は、データの収集または生成場所の近くに、AIモデルや計算リソースを移動させる方が効率的だ」とマーズ氏は説明する。この構成では、データがあるエッジデバイスでAIモデルのトレーニングを実行することになるため、データを集約させておく場所にデータを移動させる必要がなくなる。AIモデルの推論もエッジデバイスで実行できるので、データの集約場所とエッジデバイスが接続されているかどうかにかかわらず、推論が可能になる。
データにAIモデルを近づけるこの手法は、テキストや画像を自動で生成するAI技術「生成AI」の登場によって、慎重なアプローチを必要とするようになった。大規模言語モデル(LLM)をホストしている場所にデータを移動させなければいけなくなったのだ。そうしたデータ移動では慎重なアプローチが必要だとスミス氏は指摘する。AIワークロードが大量のデータを扱うタスクであることを踏まえると、低遅延、高帯域幅(回線容量)、専用ハードウェアが重要になる。
マーズ氏は大容量データの移動に伴う課題として挙げるのは以下の3つだ。
- コスト
- 特にオンプレミスシステムとクラウドサービス間で大量のデータを移動させることには、費用と時間がかかる。
- 災害復旧(DR)
- データ復旧時、古いデータの使用を避けるためには、移動対象となるデータのバージョンが一貫していることを確認する必要がある。
- 低遅延
- 高度な技術を組み込んだ自動車(スマートビークル)や株式取引のような、リアルタイム処理が必要な用例において重要となる。
次回は、持続可能性を考慮したAI技術の活用について考える。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社キーエンス] RPAは「どれも同じ」ではない 過去に導入を諦めた企業が“失敗した理由”とは -
製品資料
[株式会社キーエンス] 疲れ知らずの単純作業ロボをサクッと作成、“自分一人”でデスクワークを効率化 -
製品資料
[ニュータニックス・ジャパン合同会社] クラウドネイティブ戦略ガイド:Kubernetesクラスタ運用を最適化する方法を解説 -
事例
[Neatframe株式会社] オフィス移転を好機に Sansanに学ぶ「会議環境」変革の秘訣 -
製品資料
[NECパーソナルコンピュータ株式会社] 「PCが動きません」で情シスが負担する“隠れコスト”はどれほどか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
2
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
3
「仮想化基盤の更改とコスト最適化」に関するアンケート
-
4
従来の「外注」では解決しない情シスのリソース問題を突破する手だて
-
5
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
-
6
「ChatGPT」は検索しまくり、「Gemini」は淡泊? AI検索の知られざる実態
-
7
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
8
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
9
「Copilot」がIT予算を食いつぶす? 高額請求を招く課金体系と節約術
-
10
トランプ氏当選で露呈、“電話による世論調査はオワコン”か?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
4
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
5
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー