自社データを用いてカスタマイズした「プライベートLLM」を運用する場合、ユーザー企業はインフラの構築や運用にどのように向き合えばいいのか。そのポイントを解説する。
テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)や、その基となる大規模言語モデル(LLM)をアプリケーションに組み込む場合、準備しなければならない点が幾つかある。
LLMを自社専用にカスタマイズして使う「プライベートLLM」のインフラを独自に用意するには、かなりの負荷が掛かる可能性がある。そこで今後需要が拡大すると考えられるのが、AI特化型のインフラだ。オンプレミスとクラウドサービスのどちらを選べばいいのかという観点を含めて、インフラ選定や導入時に考慮すべきポイントを紹介する。
LLMの学習では「GPU」(グラフィックス処理ユニット)を使用することが一般的だ。GPU搭載のサーバを利用する手段としては、オンプレミスにサーバを設置することに加えて、IaaS(Infrastructure as a Service)などのクラウドサービスの利用がある。
オンプレミスでサーバを独自に構築するよりも、クラウドサービスを選択する企業の方が多くなると考えられる。クラウドサービスであれば拡張性の確保や運用負担の軽減がしやすいからだ。
例えば小売大手のWalmartは、自社のAI技術とIaaSを併用している。同社のシニアバイスプレジデントでエンタープライズビジネスサービス部門を率いるデビッド・グリック氏は、「自社のデータが外部に漏れないよう、AIの安全な使用方法を考えるのに時間を費やしている」と話す。
ITインフラベンダーも、生成AIやLLMのニーズに合わせてサービスを拡充している。Nutanixでシステムエンジニアリング担当バイスプレジデントを務めるパウロ・ペレイラ氏は、「データがなければAIモデルがいくら優秀でも意味がない」と話す。そのため生成AIを活用するユーザー企業は、自社のデータをクラウドサービスに移行するかどうかを検討しているという。
Nutanixが2023年8月に発表した「Nutanix GPT-in-a-box」は、AI用のインフラをオンプレミスで提供するサービスだ。ユーザー企業は独自データとオープンソースのフレームワーク(プログラム開発に必要な機能の集合体)を用いて学習を実施したり、データを管理したりできる。
コンサルティング会社smartR AIでCEOを務めるオリバー・キングスミス氏は、AI技術を組み込んだシステム(AIシステム)の導入に当たり、リスク評価を事前に実施するよう推奨する。セキュリティやプライバシー、コンプライアンスを確保するために、適切なガードレール(制御機能)を提供することも不可欠だ。
AI活用を支援するBlueFlame AIの欧州地域責任者ジェームス・テッドマン氏は、重要な取り組みとして以下を挙げる。
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...