生成AIプロジェクトは「95％失敗」する　ROIを得るための3つのステップ：生成AIの導入を“期待外れ”で終わらせないためのポイント【前編】

「生成AIで業務効率化」を期待しても、95％の企業が目に見える成果を出せずにいる。なぜ多額の投資が「期待外れ」に終わるのか。生成AIのROIを引き上げるためのポイントを説明する。

≫ 2026年02月25日 09時00分公開

95％が生成AI導入に失敗する“根本的な理由”

併せて読みたいお薦め記事

生成AI導入“失敗”の理由

　企業のAI導入で「期待外れ」の結果に終わる理由の一つが、戦略の欠如だ。具体的なビジネス課題を特定せずに、AI技術の概念実証（PoC）を開始するケースが後を絶たない。このような「何ができるか試してみよう」という実験的なアプローチは、断片的なデータの生成や不透明なレポート、そして最終的には現場の疲弊と経営層の不信感を生むだけだ。

　ITコンサルティング会社Capgeminiのグループ最高イノベーション責任者、パスカル・ブリアー氏によると、企業の90％以上がAI導入の取り組みを開始しているが、組織全体への利用拡大や、技術に投じた時間と資金に見合うROIの確保という点で課題があるという。「こうした課題は、クラウドコンピューティングといった他の新技術が登場した当初と大きくは変わらない」と同氏は話す。他の技術との大きな違いは、生成AIの登場の仕方だったと同氏は言う。生成AIは2022年11月30日（米国時間）、OpenAIの「ChatGPT」の発表で突如として広く知られるようになった。「まるで世界が一から始まるかのようだった。誰もが不意を突かれた」。その結果、ユーザー企業は「はいはい」の前に「立ち歩き」をするような、段階を飛ばした取り組みをしてしまった可能性があるという。

　つまりAIがもたらす機会や変革の複雑性を過小評価していたということだ。「ユーザー企業に全ての非があるわけではない。ベンダー側が過度な期待をあおり、過大に売り込み、十分に成果を示せなかった面がある」とブリアー氏は述べる。

　「ベンダーやシステムインテグレーターは、生成AIが決定論的ではなく、確率的にもっともらしい答えを予測する技術であることを理解している。しかし顧客側がそれを正確に理解し、自社にどのような影響が及ぶかまで把握しているかは疑問だ」（ブリアー氏）。そのため生成AIで使用するデータの品質の確保やデータへのアクセス方法の整備、データのサイロ化の回避に取り組んでいても、生成AIが誤った情報を生成する「ハルシネーション」の問題は残る。こうした点が、PoCからエンタープライズ全体への利用拡大を阻む要因になっているとブリアー氏は分析する。

真に生成AIのROIを高めるには

　こうした状況を踏まえ、Capgeminiは生成AI戦略で実行すべき3つのステップ「AI essentials」（AIの必須事項を把握する）、「AI readiness」（AIの準備）、「human-AI chemistry」（人間とAIの協働）を提示する。

　AI essentialsは生成AI戦略の第一段階だと、ブリアー氏は説明する。ここでは「生成AIのAIモデルが確率的・非決定論的であることの意味」「AIシステムのガードレールの設計方法」「小規模モデルと大規模モデルの使い分けとその影響」「公開モデルではなくユーザー企業の独自モデルを訓練し、利用する意義」といった基礎知識に対する理解を深める。

　これらを理解した後に、AI readinessの段階に進む。生成AIを活用するのに適切なインフラを整備し、十分なデータとそのアクセス権、ガバナンス体制を整備する。「これらが欠けていると、異なるガードレールや倫理基準、統治モデルを持つPoCが乱立し、AIシステムが管理不能に陥（おちい）る可能性がある」とブリアー氏は言う

　最後がhuman-AI chemistryだ。AI技術は単なる技術であり、それ自体はROIを生まない。ROIは、主として人間中心のプロセスに技術を適用することで生まれる。AI技術を業務に組み込むことで、「AIを使う」段階から「AIと共に働く」段階へと進化する必要がある。

　単なるツールとしてAIアプリケーションを利用する場合――必要なときに質問し、プロンプトを与え、結果を受け取るという形では、生産性向上の効果は限定的だ。Capgeminiの試算によると、その場合の生産性の向上効果は3～8％程度にとどまるという。「生産性を30～50％向上させることは、単に生成AIを利用するだけでは実現できない」とブリアー氏は言う。

　一方でAI技術を業務の中核に据え、人がAIと協働し、信頼して役割を委ねるレベルに到達すれば状況は異なる。「そもそも生産性とは何を指すのか。1つの業務を遂行するのに要する時間か、その業務に従事する人数なのか。それとも1日に処理できる件数なのか。新技術を導入するときは、生産性の定義について十分に検討し、繰り返し議論する必要がある」（ブリアー氏）

　新技術を導入する際の目的や生産性の定義を導入初期に明確にしていなければ、最終的な効果測定は困難になる。「期待したほどのリターンが得られないと感じる点が、AI技術への失望につながる」とブリアー氏は話す。

2026年を生成AIプロジェクト飛躍の年にするには

　2025年は、単なる生成AIのチャットbotサービスに加え、AIエージェントの採用がユーザー企業の間で広がった。小規模モデルと大規模モデル、オープンソースモデルといったAIモデルの選択肢に関する理解も深まり始めた。全てをChatGPTのような大規模モデルに依存する必要はなく、自社のニーズに合わせて小規模モデルを活用できるという認識が広がった。

　ブリアー氏は、2026年がAI技術やAIシステムの種類の違いを議論する段階から脱却する年になると考えている。「『AI技術を取りあえず導入する』という発想から、ビジネスについて議論し、そのビジネスに適した技術を適用するという発想に戻るだろう」と同氏は語る。

　Capgeminiでは当初から、生成AIがあらゆる問題を解決するわけではないと明確に主張してきたとブリアー氏は言う。工学の一部の分野では「真理」が極めて重要なため、生成AIの確率論的な出力結果に頼ることができない。「これが最善の選択肢だろう」といった水準では不十分だ。航空機や橋梁の設計、半導体の製造といった分野では、厳密な正しさの証明が不可欠になると同氏は強調した。

　それでは、具体的にはどのような分野で生成AIの導入効果が期待できるのか。後編で説明する。

TechTargetジャパントップエンタープライズAI