生成AIインフラをオンプレミスに構築 CTCが「CUVIC GPU Zero」を提供開始：機密データを安全に活用

CTCは「CUVIC GPU Zero」を提供開始した。生成AIアプリケーションを実行するためのオンプレミスインフラを構築するためのサービスで、AIアプリケーションの自社開発を目指す企業の利用を見込む。

[TechTargetジャパン]

　伊藤忠テクノソリューションズ（CTC）は人工知能（AI）エージェントの自社開発を目指す企業に向けたインフラ構築サービス「CUVIC GPU Zero」を提供開始した。同サービスは、NVIDIA製GPUを搭載したサーバやネットワーク機器、Difyの生成AIサービス開発ツール「Dify」などの生成AIモデルを実行するためのインフラと、インフラ監視や障害対応、更新作業を代行する運用保守サービスを組み合わせたマネージドサービスだ。

オンプレミスインフラで生成AIアプリケーションを開発

併せて読みたいお薦め記事

生成AIエージェントをオンプレミスインフラで利用する

• クラウドか、オンプレミスか？　「AIインフラ戦略」を決める6つの条件
• 「AIエージェント」は「RPA」とは何が違い、どう使われるのか？

　生成AI向けのインフラをオンプレミスに構築することで、ユーザーは自社のデータの漏えいリスクを抑えながら生成AIアプリケーションを利用できる。CUVIC GPU Zeroで構築したインフラでLLM（大規模言語モデル）やVLM（視覚言語モデル）を実行することで、長文の生成や構造化データの理解、チャートやグラフなどの画像の読み取りが可能になる。Difyを用いることで、プログラミングの知識がない事業部門でもノーコードで業務に合わせたAIエージェントを開発して利用できるようになるという。CUVIC GPU Zeroで構築したインフラは複数部門での利用が可能だ。

　CTCはCUVIC GPU Zeroを利用することで、オンプレミスの生成AIインフラの構築に必要なGPUサーバや周辺機器の調達や構築、運用に掛かる費用や人員の負荷を軽減できるとしている。サービスの価格は初期費用150万円、月額75万円（税別）から。