「AI技術の可能性を最大限に引き出したい企業は、エッジ（データの発生拠点）、データセンター、クラウドサービスの3地点にわたって連携させたAIインフラ（AIワークロードのためのインフラ）が必要になる」。Dell Technologiesでアジアパシフィック、日本、中国本土担当のプレジデントを務めるピーター・マーズ氏はそう説明する。

　マーズ氏はデータを収集するためのポイントが増加していることを指摘する。具体的にはエッジデバイス、自社製品／サービス、従業員、サプライチェーンパートナー、顧客などだ。「データは滞りなく流れてストレージに収まり、洞察を引き出すために活用された後、さらなる分析に向けた計算処理が適用されるべきだ」と同氏は主張する。

　データセンター運営事業を手掛けるDigital Reality Trustで、アジアパシフィック担当ディレクターサービスアーキテクトを務めるダニエル・オング氏は、AIインフラの設計においてはスケーラビリティ（拡張性）、オープン性、目的に特化したハードウェアの組み合わせを目指すべきだと指摘する。オング氏は、「特定のベンダーに依存するアーキテクチャはアジリティ（俊敏性）に欠け、特定のタスクに効率的かつ性能の良いリソースを割り当てづらくする」とも話す。俊敏性と選択肢を優先することで、企業はAIワークロードの要求や変化に素早く適用できるようになるという。

DBS Bankの事例

　シンガポールに拠点を置く、東南アジアの銀行大手DBS Bankは、AIワークロードをプライベートクラウドで実行している。「これらの技術群は、ハイパースケーラー（大手クラウドベンダー）よりも効率的だ」と同行のチーフデータ＆トランスフォーメーションオフィサーであるニミッシュ・パンチマティア氏は説明する。

　一方でDBS Bankは、文書作成などを支援するために生成AIを活用したAIアシスタントを従業員向けに提供しており、これにはパブリッククラウドを利用している。プライベートクラウドでは、スケーリングの要件を満たすことが困難だからだという。

　パンチマティア氏は次のように述べる。「生成AIをパブリッククラウドで実行することはわれわれの意図に沿っている。本番運用に入る前にはセキュリティやリスクについての議論が必要になるため、現在クラウドベンダーと協議を進めている」

AIインフラが備えるべき主要機能

　以下で、AIインフラが備えるべき主な要素を、領域ごとに見ていこう。

1．コンピューティング

　企業のAI能力の中核を成すのが演算能力だ。複雑なAIモデルのトレーニングには、スケーラブルな演算能力が必要になる。Accenture AustraliaとAccenture New Zealandのクラウドファーストリードを務めるイアン・スミス氏によると、一般的に並列処理タスクはGPU（グラフィックス処理ユニット）を、機械学習ライブラリ「TensorFlow」を使ったアプリケーションはTPU（テンソル処理ユニット）を使用する。

　Oracleの戦略オペレーション担当バイスプレジデントであるエリック・ベルゲンホルツ氏は、GPUが要する以下の2つの特徴が、AI技術にとって不可欠な要素だと説明する。

1. 複数の演算を同時に処理できること
2. 大規模演算のために、複数のGPUをクラスタ化できること

　ベルゲンホルツ氏は今日のGPUについて、「並列処理や高速処理、ディープラーニング（深層学習）、AIモデル学習、自然言語処理、コンピュータビジョン、推論計算など、AI技術にとって重要な機能を実現するために特別に開発され、最適化されている」と付け加える。

2．ストレージ

　「AI技術を活用したアプリケーションは膨大なデータを生成、使用するため、データの速度や量、多様性に対応できる高性能ストレージサービスが不可欠だ」とスミス氏は指摘する。高性能ストレージサービスには以下のものが含まれる。

• データレイク
• オブジェクトストレージ
• リアルタイム分析を実現する、高速な読み書きが可能なデータベース
• 生成AI関連の処理に必要なベクトルデータやグラフデータを扱うためのデータベース
  • ベクトルデータは、情報を数学的表現の集合として表現したデータ。
  • グラフデータは、情報を実体とそれらの間にあるつながりで表現したデータ。

3．ネットワーク

　AIワークロードには、大規模なデータセットを転送し、コンピューティングリソースを効率的に接続する堅牢（けんろう）なネットワークが欠かせない。「ネットワークのボトルネックを軽減するには、遅延を減らし、帯域幅（回線容量）を増やすことが重要だ」とスミス氏は言う。それらを実現することで、企業はデータをAIモデルの近くに移動させたり、推論時間を短縮するためのエンドポイントを設けたりすることが可能になる。

4．ソフトウェア

　AIインフラには、AIワークロードを制御するためのソフトウェアが不可欠だ。具体的なツールを以下に示す。

• AI技術を業務や自社製品／サービスに取り入れやすくするツール
• AI技術を活用したアプリケーションの開発やAIモデルのトレーニングを加速させる機械学習フレームワーク
• AIインフラの運用管理を支援するソフトウェア
  • モニタリング、最適化、デプロイメント（展開）といった機能も提供する。

5．データガバナンス、セキュリティ、プライバシー

　「企業がデータアクセス、品質、コンプライアンスを管理するためには、包括的なデータ管理の枠組みが必要だ」とスミス氏は述べる。セキュリティとプライバシーは最重要事項であり、データの暗号化、安全なアクセス方法の提供、コンプライアンス順守を徹底しなければならない。AI技術を活用したアプリケーションのための開発環境を安全にする上で、同氏は信頼性の高いエンクレーブ（隔離領域）を作ることを推奨する。

6．コストの管理と最適化

　AIモデルを動かすための投資判断は重要だ。高性能で高価なGPUに投資するのか、あるいは費用対効果が見込める、小規模なテストやプロトタイピングに適したPaaS（Platform as a Service）を導入するのか。スミス氏が必要性を強調するのは、クラウド支出を監視して最適化するための「FinOps」機能だ。FinOpsは、IT部門と財務部門、事業部門が連携しながら、クラウドサービスのコスト管理に取り組む手法を指す。

　次回は、AIインフラとデータの配置について考察する。