“AIインフラ”でも論争になる「オンプレミス」対「クラウド」 どう選ぶべき？：LLMで変わる開発【後編】

自社データを用いてカスタマイズした「プライベートLLM」を運用する場合、ユーザー企業はインフラの構築や運用にどのように向き合えばいいのか。そのポイントを解説する。

[Cliff Saran, Adrian Bridgwater，TechTarget]

　テキストや画像などを自動生成するAI技術「生成AI」（ジェネレーティブAI）や、その基となる大規模言語モデル（LLM）をアプリケーションに組み込む場合、準備しなければならない点が幾つかある。

　LLMを自社専用にカスタマイズして使う「プライベートLLM」のインフラを独自に用意するには、かなりの負荷が掛かる可能性がある。そこで今後需要が拡大すると考えられるのが、AI特化型のインフラだ。オンプレミスとクラウドサービスのどちらを選べばいいのかという観点を含めて、インフラ選定や導入時に考慮すべきポイントを紹介する。

「AIインフラ」にはオンプレミスとクラウドのどちらを選ぶべき？

連載：LLMで変わる開発

• 前編：「生成AIでアプリ開発」がもたらす、効率化どころじゃない“根本的な変化”とは
• 後編：「生成AIカスタマイズ」には何が必要？　独自LLMを作る“6つの準備リスト”

併せて読みたいお薦め記事

AI時代のインフラを考察

• 生成AIで加速し始めた「新世代オンプレミス」“3つの変化”はこれだ
• 「量子コンピュータ」の実用化に向けて企業はどう準備すべきか

　LLMの学習では「GPU」（グラフィックス処理ユニット）を使用することが一般的だ。GPU搭載のサーバを利用する手段としては、オンプレミスにサーバを設置することに加えて、IaaS（Infrastructure as a Service）などのクラウドサービスの利用がある。

　オンプレミスでサーバを独自に構築するよりも、クラウドサービスを選択する企業の方が多くなると考えられる。クラウドサービスであれば拡張性の確保や運用負担の軽減がしやすいからだ。

　例えば小売大手のWalmartは、自社のAI技術とIaaSを併用している。同社のシニアバイスプレジデントでエンタープライズビジネスサービス部門を率いるデビッド・グリック氏は、「自社のデータが外部に漏れないよう、AIの安全な使用方法を考えるのに時間を費やしている」と話す。

　ITインフラベンダーも、生成AIやLLMのニーズに合わせてサービスを拡充している。Nutanixでシステムエンジニアリング担当バイスプレジデントを務めるパウロ・ペレイラ氏は、「データがなければAIモデルがいくら優秀でも意味がない」と話す。そのため生成AIを活用するユーザー企業は、自社のデータをクラウドサービスに移行するかどうかを検討しているという。

　Nutanixが2023年8月に発表した「Nutanix GPT-in-a-box」は、AI用のインフラをオンプレミスで提供するサービスだ。ユーザー企業は独自データとオープンソースのフレームワーク（プログラム開発に必要な機能の集合体）を用いて学習を実施したり、データを管理したりできる。

AIシステムに欠かせないガードレールとは？

　コンサルティング会社smartR AIでCEOを務めるオリバー・キングスミス氏は、AI技術を組み込んだシステム（AIシステム）の導入に当たり、リスク評価を事前に実施するよう推奨する。セキュリティやプライバシー、コンプライアンスを確保するために、適切なガードレール（制御機能）を提供することも不可欠だ。

　AI活用を支援するBlueFlame AIの欧州地域責任者ジェームス・テッドマン氏は、重要な取り組みとして以下を挙げる。

• データセキュリティ
  • データの暗号化を徹底し、セキュリティプロトコルを定期的に更新する。
• プライバシーの順守
  • AIシステムが、欧州連合（EU）の一般データ保護規則（GDPR）やカリフォルニア州消費者プライバシー法（CCPA） といった規制に準拠していることを確認する。データがAIモデルの学習に使用されないよう契約を結ぶ。
• アクセス制御
  • AIシステムと機密データへの不正アクセスを防ぐために、厳格なアクセス制御と認証の機能を導入する。
• 監査と監視
  • AIシステムの安全性を定期的に監査し、使用状況を監視して悪意のある行為を検知し、対処する。
  • AIモデルが下した意思決定が公平で偏りのないことを保証するために、適切なポリシーと手順を設け、監査人に提示する。
• 偏りと倫理的配慮
  • AIモデルの出力内容の偏りを定期的に評価し、その影響を軽減する措置を講じる。
• 業界標準への準拠
  • 特に医療、金融、法務などの業界固有の標準や規制に準拠していることを確認する。
• 透明性のあるデータ利用
  • AIシステムによるデータの使用方法と処理についての透明性を保ち、関係者にAIモデルとデータの取り扱いについて通知する。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。