「生成AI」の自社運用に“ちょうどよいサーバ”の賢い選び方：セキュアで高速な自社用生成AIの実現

セキュリティやデータ処理速度の要件を考慮した生成AI活用では、オンプレミスシステムでの開発や運用が候補に挙がる。だがそのためのハードウェアをそろえることは容易ではない。必要十分なサーバ構成を見極めるヒントを紹介する。

[ITmedia]

　文章や画像を自動生成するAI（人工知能）技術「生成AI」を業務に活用しようと、企業はさまざまな方法で模索を続けている。手探りの状態からPoC（概念実証）、実運用と段階が進む中で浮上してきたのが、社内データを活用することの重要性だ。クラウド型の生成AIサービスで社内データを使うことが難しい場合、RAG（検索拡張生成）などの技術で社内データを活用し、セキュリティを確保しながら生成AIを組み込んだサービスを運用する、という手法が確立されつつある。

　こうした仕組みを実現するには、社内のセキュアな領域にコンピューティングリソースを配置する必要があるため、適切なハードウェア選定が重要になる。次ページで、クラウド型生成AIと社内データを組み合わせたAIサービスを実現するためのハードウェアの選定ポイントを解説する。