AIインフラの理想形? 「5層のケーキ」を垂直統合するための近道とは持続可能なAI基盤の設計方法

「土地、電力、建物」「チップ」「インフラストラクチャ」「AIモデル」「AIアプリケーション」の5層からなるAIインフラをどのような戦略のもと運用すればよいのか。中長期的な運用コストを最適化する上で注目されるアプローチを紹介する。

2026年05月20日 10時00分 公開
[ITmedia]

 業務のAI活用を掲げたプロジェクトが、本番運用への移行段階で足踏みして、なかなか成果につながらない――との悩みは絶えない。PoC(概念実証)は達成しても、そこから商用導入へとスケールアップする過程には、技術だけでは解決できない壁が数多くある。

 AI活用の阻害要因はITインフラの性能不足だけではない。社内規定でクラウドインフラを利用できなかったり、ガバナンスが未整備だったり、固有の業務知識をAIモデルに学習させる仕組みがなかったりするなど、複数の課題が絡み合っている。

 一般的な生成AIモデルは、いわば「非常に優秀な新入社員」に近い。公開データを学習して幅広い知識を身に付けたが、業界の商慣習や自社の機密情報を参照した実務をすぐにはできず、即戦力にはなりにくい。

 AIを真の戦力へと引き上げるには何が必要なのか。システムの設計から運用まで、持続可能なAI基盤をどうすれば自前で構築できるのか。その現実的な突破口を探る。


提供:エヌビディア合同会社、株式会社NTTデータ
アイティメディア営業企画/制作:アイティメディア編集局

Copyright © ITmedia, Inc. All Rights Reserved.