オンプレかクラウドか
「AIで成果」はわずか6% 明暗を分ける「インフラの置き場所」を比較
AI導入で収益を上げている企業はわずか6%にすぎない。成否を分ける決定的な要因は、モデルを「どこで」動かすかというインフラ配置戦略だ。機密データ保護や超低遅延を重視するオンプレミスか、拡張性とスピードのクラウドか。情シスが直面するコストとガバナンスのジレンマを解消し、ROIを最大化する配置ルールを解き明かす。
企業がAIモデルをどこで実行するかという判断は、データガバナンスやセキュリティ、コスト管理、性能、拡張性に直結する。AIプロジェクトの本格運用が進む中、デプロイ先の選定はかつてないほど重要になっている。機密データやシステムをどの程度制御できるかがそこで決まるからだ。
AI導入を収益に結び付けるのは容易ではない。米McKinseyのレポート「The State of AI in 2025」によれば、回答した企業のうち、AIで高い成果を上げているのはわずか6%だった。これらの企業は、利払い前・税引き前利益(EBIT)で5%以上のインパクトを達成している。成果が上がらない理由の1つは、ガバナンスや遅延、コスト、拡張性の要件に合わない環境でAIを実行していることにある。
検討すべきは、単に「オンプレミスかクラウドか」という二択ではない。成熟度やリスク、コストの想定に基づき、どのワークロードをどの環境に配置すべきかを見極める必要がある。デプロイ先を固定せず、継続的な判断材料とする企業こそコストと性能のトレードオフを最適化できる。
オンプレミスAIとクラウドAIのインフラ比較
オンプレミスAIとは、企業が所有、リース、または直接管理する物理的なハードウェア上で、機械学習モデルの実行やトレーニング、ファインチューニングを行うことを指す。これには従来の自社データセンターだけでなく、プライベートクラウド、コロケーション施設、エッジサイトなども含まれる。
オンプレミス環境では、サーバの調達やGPUの選定、ストレージ階層、ネットワーク設計、セキュリティ制御などは全て企業の責任となる。演算リソースをオンプレミスに置いた後も、仮想プライベートクラウドへの拡張やローカルゲートウェイ、拠点間接続などの設計を考慮しなければならない。
この構成は、AIを既存の基幹システムや独自データ、工場の設備、あるいは低遅延が求められる業務フローの近くに配置したい場合に有効だ。スケーラビリティの恩恵をあまり受けないワークロードにも適している。ただし、MLOps(機械学習オペレーション)の構築やパッチ管理、オブザーバビリティ(可観測性)、電源・冷却設備の管理、ハードウェアの更新といった運用負荷は増大する。
対してクラウドAIは、サードパーティーが管理する共有型の仮想化インフラ上で実行される。これらはIaaS、マネージドなAI PaaS、基盤モデルAPI、SaaS型AIアプリケーションという4つの階層で提供される。
クラウドのアーキテクチャは、弾力性とサービスの抽象化が特徴だ。ハイパースケーラーが物理施設やハードウェアの保守を担うため、企業は必要に応じてリソースを即座に増減できる。事前統合されたデータレイクやパイプラインを利用すれば、データの集約や取り込みも容易になる。
ハードウェアへの巨額の初期投資を抑えられる一方で、クラウドではコスト管理やアイデンティティーアクセス管理(IAM)が複雑になる。また、特定のベンダーに依存するリスクへの対策も必要だ。
どちらを選ぶかは単純な二者択一ではなく、ワークロードごとに判断すべきだ。独自の基幹モデルはオンプレミスで維持し、顧客向けの共同作業用アプリケーションにはパブリッククラウドを利用するといった使い分けが現実的だ。
ハイブリッドおよびマルチクラウドAI戦略
データの所在、モデルの実行場所、管理プレーンを分離できるハイブリッドクラウド構成が普及している。主なパターンは以下の通りだ。
- 試行はクラウド、本番はオンプレミス
開発初期はクラウドの豊富なモデルカタログを活用し、モデル確定後にオンプレミスやコロケーション施設へ移行する。
- オンプレミスデータからクラウドモデルへ接続
データの主権やプライバシー制約が厳しい場合、機密データは手元に置いたまま、専用線経由でクラウド上のモデルを利用する。
- クラウドで学習し、ローカルで推論
トレーニングや大規模なファインチューニングはクラウドのリソースで行い、完了したモデルをオンプレミスやエッジに配置して日常の推論に使用する。
- オンプレミスを基本とし、負荷増大時のみクラウドを利用
通常は自社の計算クラスタでモデルを最適化し、演算需要が急増した際のみクラウドのGPUインスタンスに処理を逃す。
- エッジで推論し、クラウドで監視・ガバナンス
推論は各地のエッジ拠点で行い、性能指標やログのみをクラウドで一括管理する。これにより超低遅延とオフライン動作を両立しつつ、MLOpsを実現できる。
ハイブリッド構成の利点は、ワークロードの適材適所な配置やコスト最適化にある。しかし、制御の不一致や監視の断片化、データ管理の難化といったリスクも伴う。
もう1つの選択肢であるマルチクラウドAIは、複数のクラウドプラットフォームを使い分ける手法だ。特定のAIリソースへのアクセスや耐障害性の向上、ベンダーロックインの回避に役立つ。ただし、プラットフォーム間の相互運用性やデータ移動に課題があり、管理のために高度なスキルを持つ人材が追加で必要になる場合が多い。
AIの実行場所を判断する基準
最適なデプロイ先は、企業の全体戦略によって決まる。AIシステムの役割、必要なデータ、稼働頻度、ワークロードの機密性、許容できる遅延(レイテンシ)を評価しなければならない。
オンプレミスAIを選択すべきなのは、規制の厳しい機密データを扱う場合だ。例えば、銀行の信用スコアリングや不正検知エンジンが、個人情報や取引履歴を扱うなら、オンプレミスやプライベートクラウドに置くことでデータの制御権を確保できる。
レイテンシの最小化が必須な場合もオンプレミスが適している。製造現場でコンピュータービジョンを用いた欠陥検知を行う際、クラウド経由では数秒の遅延が致命的になり得る。外部接続に依存せず、機械の近くで推論を行う方が信頼性は高い。
一方で、スピードや柔軟性を優先するならクラウドAIが勝る。生成AIのユースケースを試行錯誤している段階では、どのモデルが価値を生むか予測しにくい。クラウドならハードウェアを購入することなく、最新の基盤モデルやMLOpsツール、GPUをすぐに利用できる。
また、社内にインフラ運用の専門知識を持つエンジニアが不足している場合も、クラウドが推奨される。中規模企業がカスタマーサービスや営業分析にAIを導入したいなら、自前でプラットフォームを構築するよりもマネージドサービスを利用する方が確実な成果を得られる。
結論として、オンプレミスとクラウドのどちらが優れているかではなく、個々のワークロードのリスク、性能要件、データの機密性、運用モデルに合わせて環境を使い分けることこそが正しい戦略といえる。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社キーエンス] PCが苦手でも自動化できる 近鉄コスモスなど4事例に学ぶ「ナビ搭載型RPA」活用 -
製品資料
[レノボ・ジャパン合同会社] 約1.39kgにAI処理能力を凝縮 持ち運べるAPU搭載ワークステーションの実力は? -
製品レビュー
[ネットアップ合同会社] ランサムウェア被害からの回復を阻む最大の壁とは? -
製品レビュー
[ネットアップ合同会社] 攻撃者は“最後の砦”を真っ先に狙う いま必要なランサムウェア対策とは? -
市場調査・トレンド
[Snowflake合同会社] AI時代のビジネスインテリジェンス変革:5大トレンドと成功戦略
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
Microsoft 365統一で「SharePoint」が1日2TB増 富士フイルムはどう管理した?
-
4
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
5
1巻40TB、量子解読も防ぐ「LTO-10」 テープを侮るバックアップの盲点
-
6
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
7
8割がアナログに逆戻りする“やっぱりな理由” DXを阻む2つの落とし穴
-
8
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
9
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
10
なぜ「Claude Code」拡張は消しても危ないのか? Cursorで不正版配信
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
9
進化が遅れる「電話」をアップデート、AIを搭載した次世代の通話機能とは?
-
10
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー