オンプレかクラウドか
「AIで成果」はわずか6% 明暗を分ける「インフラの置き場所」を比較
AI導入で収益を上げている企業はわずか6%にすぎない。成否を分ける決定的な要因は、モデルを「どこで」動かすかというインフラ配置戦略だ。機密データ保護や超低遅延を重視するオンプレミスか、拡張性とスピードのクラウドか。情シスが直面するコストとガバナンスのジレンマを解消し、ROIを最大化する配置ルールを解き明かす。
企業がAIモデルをどこで実行するかという判断は、データガバナンスやセキュリティ、コスト管理、性能、拡張性に直結する。AIプロジェクトの本格運用が進む中、デプロイ先の選定はかつてないほど重要になっている。機密データやシステムをどの程度制御できるかがそこで決まるからだ。
AI導入を収益に結び付けるのは容易ではない。米McKinseyのレポート「The State of AI in 2025」によれば、回答した企業のうち、AIで高い成果を上げているのはわずか6%だった。これらの企業は、利払い前・税引き前利益(EBIT)で5%以上のインパクトを達成している。成果が上がらない理由の1つは、ガバナンスや遅延、コスト、拡張性の要件に合わない環境でAIを実行していることにある。
検討すべきは、単に「オンプレミスかクラウドか」という二択ではない。成熟度やリスク、コストの想定に基づき、どのワークロードをどの環境に配置すべきかを見極める必要がある。デプロイ先を固定せず、継続的な判断材料とする企業こそコストと性能のトレードオフを最適化できる。
オンプレミスAIとクラウドAIのインフラ比較
オンプレミスAIとは、企業が所有、リース、または直接管理する物理的なハードウェア上で、機械学習モデルの実行やトレーニング、ファインチューニングを行うことを指す。これには従来の自社データセンターだけでなく、プライベートクラウド、コロケーション施設、エッジサイトなども含まれる。
オンプレミス環境では、サーバの調達やGPUの選定、ストレージ階層、ネットワーク設計、セキュリティ制御などは全て企業の責任となる。演算リソースをオンプレミスに置いた後も、仮想プライベートクラウドへの拡張やローカルゲートウェイ、拠点間接続などの設計を考慮しなければならない。
この構成は、AIを既存の基幹システムや独自データ、工場の設備、あるいは低遅延が求められる業務フローの近くに配置したい場合に有効だ。スケーラビリティの恩恵をあまり受けないワークロードにも適している。ただし、MLOps(機械学習オペレーション)の構築やパッチ管理、オブザーバビリティ(可観測性)、電源・冷却設備の管理、ハードウェアの更新といった運用負荷は増大する。
対してクラウドAIは、サードパーティーが管理する共有型の仮想化インフラ上で実行される。これらはIaaS、マネージドなAI PaaS、基盤モデルAPI、SaaS型AIアプリケーションという4つの階層で提供される。
クラウドのアーキテクチャは、弾力性とサービスの抽象化が特徴だ。ハイパースケーラーが物理施設やハードウェアの保守を担うため、企業は必要に応じてリソースを即座に増減できる。事前統合されたデータレイクやパイプラインを利用すれば、データの集約や取り込みも容易になる。
ハードウェアへの巨額の初期投資を抑えられる一方で、クラウドではコスト管理やアイデンティティーアクセス管理(IAM)が複雑になる。また、特定のベンダーに依存するリスクへの対策も必要だ。
どちらを選ぶかは単純な二者択一ではなく、ワークロードごとに判断すべきだ。独自の基幹モデルはオンプレミスで維持し、顧客向けの共同作業用アプリケーションにはパブリッククラウドを利用するといった使い分けが現実的だ。
ハイブリッドおよびマルチクラウドAI戦略
データの所在、モデルの実行場所、管理プレーンを分離できるハイブリッドクラウド構成が普及している。主なパターンは以下の通りだ。
- 試行はクラウド、本番はオンプレミス
開発初期はクラウドの豊富なモデルカタログを活用し、モデル確定後にオンプレミスやコロケーション施設へ移行する。
- オンプレミスデータからクラウドモデルへ接続
データの主権やプライバシー制約が厳しい場合、機密データは手元に置いたまま、専用線経由でクラウド上のモデルを利用する。
- クラウドで学習し、ローカルで推論
トレーニングや大規模なファインチューニングはクラウドのリソースで行い、完了したモデルをオンプレミスやエッジに配置して日常の推論に使用する。
- オンプレミスを基本とし、負荷増大時のみクラウドを利用
通常は自社の計算クラスタでモデルを最適化し、演算需要が急増した際のみクラウドのGPUインスタンスに処理を逃す。
- エッジで推論し、クラウドで監視・ガバナンス
推論は各地のエッジ拠点で行い、性能指標やログのみをクラウドで一括管理する。これにより超低遅延とオフライン動作を両立しつつ、MLOpsを実現できる。
ハイブリッド構成の利点は、ワークロードの適材適所な配置やコスト最適化にある。しかし、制御の不一致や監視の断片化、データ管理の難化といったリスクも伴う。
もう1つの選択肢であるマルチクラウドAIは、複数のクラウドプラットフォームを使い分ける手法だ。特定のAIリソースへのアクセスや耐障害性の向上、ベンダーロックインの回避に役立つ。ただし、プラットフォーム間の相互運用性やデータ移動に課題があり、管理のために高度なスキルを持つ人材が追加で必要になる場合が多い。
AIの実行場所を判断する基準
最適なデプロイ先は、企業の全体戦略によって決まる。AIシステムの役割、必要なデータ、稼働頻度、ワークロードの機密性、許容できる遅延(レイテンシ)を評価しなければならない。
オンプレミスAIを選択すべきなのは、規制の厳しい機密データを扱う場合だ。例えば、銀行の信用スコアリングや不正検知エンジンが、個人情報や取引履歴を扱うなら、オンプレミスやプライベートクラウドに置くことでデータの制御権を確保できる。
レイテンシの最小化が必須な場合もオンプレミスが適している。製造現場でコンピュータービジョンを用いた欠陥検知を行う際、クラウド経由では数秒の遅延が致命的になり得る。外部接続に依存せず、機械の近くで推論を行う方が信頼性は高い。
一方で、スピードや柔軟性を優先するならクラウドAIが勝る。生成AIのユースケースを試行錯誤している段階では、どのモデルが価値を生むか予測しにくい。クラウドならハードウェアを購入することなく、最新の基盤モデルやMLOpsツール、GPUをすぐに利用できる。
また、社内にインフラ運用の専門知識を持つエンジニアが不足している場合も、クラウドが推奨される。中規模企業がカスタマーサービスや営業分析にAIを導入したいなら、自前でプラットフォームを構築するよりもマネージドサービスを利用する方が確実な成果を得られる。
結論として、オンプレミスとクラウドのどちらが優れているかではなく、個々のワークロードのリスク、性能要件、データの機密性、運用モデルに合わせて環境を使い分けることこそが正しい戦略といえる。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
3
「ランサムウェア対策製品」選びに失敗しない“4つのチェックポイント”
-
4
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
5
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
6
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
7
「会議・ミーティング」に関するアンケート
-
8
マイナビが挑む「有線・無線LAN、WANのクラウド統合管理」
-
9
脱VMwareで悩む中小企業のための“目からうろこの選択肢”とは
-
10
なぜ「ChatGPT」連携の拡張機能が情報漏えいの入り口になるのか?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー