自社データを用いてカスタマイズした「プライベートLLM」を運用する場合、ユーザー企業はインフラの構築や運用にどのように向き合えばいいのか。そのポイントを解説する。
テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)や、その基となる大規模言語モデル(LLM)をアプリケーションに組み込む場合、準備しなければならない点が幾つかある。
LLMを自社専用にカスタマイズして使う「プライベートLLM」のインフラを独自に用意するには、かなりの負荷が掛かる可能性がある。そこで今後需要が拡大すると考えられるのが、AI特化型のインフラだ。オンプレミスとクラウドサービスのどちらを選べばいいのかという観点を含めて、インフラ選定や導入時に考慮すべきポイントを紹介する。
LLMの学習では「GPU」(グラフィックス処理ユニット)を使用することが一般的だ。GPU搭載のサーバを利用する手段としては、オンプレミスにサーバを設置することに加えて、IaaS(Infrastructure as a Service)などのクラウドサービスの利用がある。
オンプレミスでサーバを独自に構築するよりも、クラウドサービスを選択する企業の方が多くなると考えられる。クラウドサービスであれば拡張性の確保や運用負担の軽減がしやすいからだ。
例えば小売大手のWalmartは、自社のAI技術とIaaSを併用している。同社のシニアバイスプレジデントでエンタープライズビジネスサービス部門を率いるデビッド・グリック氏は、「自社のデータが外部に漏れないよう、AIの安全な使用方法を考えるのに時間を費やしている」と話す。
ITインフラベンダーも、生成AIやLLMのニーズに合わせてサービスを拡充している。Nutanixでシステムエンジニアリング担当バイスプレジデントを務めるパウロ・ペレイラ氏は、「データがなければAIモデルがいくら優秀でも意味がない」と話す。そのため生成AIを活用するユーザー企業は、自社のデータをクラウドサービスに移行するかどうかを検討しているという。
Nutanixが2023年8月に発表した「Nutanix GPT-in-a-box」は、AI用のインフラをオンプレミスで提供するサービスだ。ユーザー企業は独自データとオープンソースのフレームワーク(プログラム開発に必要な機能の集合体)を用いて学習を実施したり、データを管理したりできる。
コンサルティング会社smartR AIでCEOを務めるオリバー・キングスミス氏は、AI技術を組み込んだシステム(AIシステム)の導入に当たり、リスク評価を事前に実施するよう推奨する。セキュリティやプライバシー、コンプライアンスを確保するために、適切なガードレール(制御機能)を提供することも不可欠だ。
AI活用を支援するBlueFlame AIの欧州地域責任者ジェームス・テッドマン氏は、重要な取り組みとして以下を挙げる。
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
SASのCMOが語る マーケティング部門が社内の生成AI活用のけん引役に適している理由
データとアナリティクスの世界で半世紀近くにわたり知見を培ってきたSAS。同社のCMOに、...
SALES ROBOTICSが「カスタマーサクセス支援サービス」を提供
SALES ROBOTICSは、カスタマーサクセスを実現する新サービスの提供を開始した。
「Fortnite」を活用 朝日広告社がメタバース空間制作サービスとマーケティング支援を開始
朝日広告社は、人気ゲーム「Fortnite」に新たなゲームメタバース空間を公開した。また、...