大規模言語モデル(LLM)の活用を検討する場合、用途や予算を踏まえて最適なLLMや導入方法を選ぶことが重要だ。コスト効率の観点で、企業にとっての選択肢を解説する。
テキストや画像などを自動生成するAI(人工知能)技術「生成AI」や、そのベースとなる大規模言語モデル(LLM)の普及が進んでいる。LLMのオープンソース化や、クラウド型AIサービスの普及、ライセンスの多様化などが進み、企業にとってLLMをより活用しやすい状況が整ってきている。
企業はLLMを活用する場合、多岐にわたる選択肢の中から、用途や予算を踏まえてLLMを選択したり導入方法を検討したりする必要がある。
LLMをビジネスで使用する場合、主な導入方法は2つある。
1つ目は、自社システムにLLMを組み込む方法だ。API(アプリケーションプログラミングインタフェース)経由で、OpenAIといったAIベンダーのLLMにアクセスできる。
2つ目が、ベンダーが提供する既存のAIツールを使う方法だ。代表的なAIツールとして以下のようなものがある。
他にも、SalesforceやOracle、SAPなどのソフトウェアベンダーは、各社サービス内でLLMへのアクセスを提供している、例えばOracleのクラウドサービス群「Oracle Cloud Infrastructure」(OCI)ではLLMを利用できる他、独自データを用いたLLMのトレーニングが可能だ。
SAPも顧客データとLLMの連携に取り組んでいる。同社ERP(統合基幹業務システム)のクラウド版「SAP S/4HANA Cloud」では、ベクトル形式(数値型の構造体)でデータを管理するベクトルデータベースエンジンを用いる。これにより、LLMが企業データを基にクエリに回答できる。
APIを用いて自社システムにLLMを組み込む場合、LLMにプロプライエタリ(ソースコード非公開)のLLMを使うか、オープンソースのLLMを使うかを決める必要がある。
プロプライエタリのLLMは、サブスクリプション契約を結べば容易に使用できる点がメリットだ。基本的に使用量に基づいたライセンス体系となり、使用量はLLMが送受信したテキスト量の単位「トークン」で測定される。そのためLLMの使用が拡大すると、コストが急激に増加するリスクがある。
一方のオープンソースのLLMは、通常はライセンス料金がかからないため、プロプライエタリのLLMと比較して導入コストを抑えることができる。ただしオープンソースのLLMの場合、運用やトレーニングにかかるコストを考慮する必要がある。
一般的に、LLMのトレーニングにはかなりのコンピューティングリソースが必要になる。サーバベンダーは、AIワークロード(AI技術を組み込んだシステム)の処理を想定した製品を提供しているため、処理を高速化するのであればそうした製品を検討するのも手だ。これらの製品は、例えばGPU間のインターコネクト(相互接続)の高速性や効率性を支援する設計となっていることがある。
代表的なオープンソースのLLMとしては、Meta Platformsの「LLaMA2」、Googleの「BERT」、アブダビの科学研究機関Technology Innovation Instituteの「Falcon-40B」などがある。これらLLMを比較する際は、AIベンダーHugging Faceの比較ツール「Open LLM Leaderboard」を活用するとよい。これは各LLMの利点や欠点、ハードウェアの使用効率などを理解するのに役立つ。
後編は、企業にとっての選択肢の一つとなる「プライベートLLM」について解説する。
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
適切に生成AIを使いこなすために、情報には「共有範囲」を設定することが重要となるが、管理が不十分だと“過剰共有”の状況が発生する。過剰共有は社内での情報漏えいにつながる可能性もあるため、十分な対策が必要となる。
生成AIの活用には機密情報漏えいなどのリスクがあるため、利用を制限しているケースもある。しかし、完全に利用を制限してしまうと競合に後れを取る可能性がある。そこで重要なのが、セキュリティと利便性を両立できるような環境構築だ。
昨今、多くの組織がAIエージェントや生成AIをビジネスに活用しつつある。今後はAIをどうビジネスに組み込んでいくかが、組織が飛躍するためのポイントになるだろう。そこで本資料では、AIがもたらす10のビジネス価値を解説する。
顧客体験(CX)を向上させるための手段として、広く注目されつつあるAIだが、実際にFAQやチャット/チャットbotにAIを導入することで、CXはどれだけ高まるのか。次世代のカスタマーサービスの作り方と、そのメリットを探る。
営業資料や議事録といった資料作成において、生成AIへの期待が高まっている。中でも注目したいのがZoomの生成AI機能だ。会議データからの資料作成は、生成AI活用でどのように効率化されるのか。動画で紹介する。
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...