ワット氏は、企業がある程度の規模に達した場合、費用面からフロンティアAIに依存し続けるのは不合理だと指摘する。「最初は最も性能の高いAIモデルを使うべきだが、規模が拡大するとトークン費用が膨らみ、企業はコントロールを失う」と述べ、自社で費用を管理できる自己管理型インフラに推論処理を移行するハイブリッド戦略の重要性を強調する。

　自己管理型モデルへの移行において鍵となるのが、オープンウェイトモデルと強化学習（AIモデルが試行錯誤しながら最適な行動を学んでいく学習）の組み合わせだ。ワット氏によれば、特定の業務プロセスを自動化するAIエージェントを構築する際、初期段階ではフロンティアAIを利用して自動化を実現する。その後、AIモデル共有サービス「Hugging Face」などのサイトで提供されている無償のオープンウェイトモデルへの置き換えを図るという流れだが、そのままでは要件に適合しない場合がある。

　この「ラストワンマイル」のギャップを埋めるための手段が強化学習だ。自社データを用いて事後学習を実施し、スコアリングシステムを作成することで、AIエージェントが目的を達成するための最適な戦略を見つけ出すことを可能にする。Red Hatのリサーチチーム内でも、アイデアの承認から製品化までの研究プロセス全体を自動化するAIエージェントを構築している。初期段階は「Claude 3 Opus」で開始するが、プロセスが完成した後は、可能な限りオープンウェイトモデルに集約する手法を採っているという。

　ワット氏自身も、自らの業務をAIエージェントに置き換える取り組みを行っている。チームに加わる新しい研究者に対し、同氏が毎回同じ質問をするという定型的な業務があった。これをエージェントに置き換えることで、新人はエージェントを相手にアイデアを練り上げ、市場への影響や顧客への価値を明確に言語化できるようになった。ワット氏自身はより重要な他の思考に時間を割けるようになり、生産性を大きく向上させている。

開発パターンの分類と安全なインフラ技術

　AIエージェントの開発と運用において、ワット氏は「コパイロットパターン」「ファクトリーパターン」という2つのアプローチがあると説明する。

　コパイロットパターンは、ソースコードを変更し、プルリクエストを作成する作業をAIコーディングエージェントが支援する手法だ。すでに稼働しているシステム（ブラウンフィールド）への適用に適している。

　ファクトリーパターンは、AIエージェントでソースコードを直接変更するのではなく、仕様書やテストコードを変更・保守する手法だ。工場の組み立てラインのように、AIエージェントが仕様を読み込んでテストを通過した成果物を生成する。こちらは新規開発（グリーンフィールド）に向いている。

　AIエージェントを安全に運用するためのインフラ構成として、Red Hatはコミュニティーを主導しながら、複数のオープンソースプロジェクトを推進している。

　セキュリティ分野では、「Tank OS」というプロジェクトがある。これはAIエージェントフレームワーク「OpenClaw」をイミュータブル（不変）OSに配備し、ルート権限を持たせない状態で実行することで、システムに対する不正な変更を防ぐものだ。NVIDIAと共同で開発しているセキュアなシェル環境「OpenShell」と組み合わせることで、AIエージェントがインターネット経由で外部ツールを呼び出す際にポリシーに基づいて厳格に制御する仕組みだ。

　推論の費用管理や制御の要となるのが、Red Hatが作成したオープンソースの推論プロキシ「vLLM Semantic Router」だ。これをサードパーティーのAPIエンドポイントの代替（中継サーバ）として配置し、入力テキストの文脈を解析して「物理モデル」や「歴史モデル」といった最適なAIモデルへと動的にルーティングする。

　音声、動画、画像などの複数形式（マルチモーダル）データを、自社運用モデルで扱えるようにする推論サーバ「vLLM Omni」のプロジェクトに対しても、初期段階から参画してソースコードの貢献や堅牢（けんろう）化を進めている。

ハイブリッドAIの今後の展望

　自己管理型モデルへの移行には、社内の専門知識の不足という課題が伴う。ワット氏は、年度頭に計画したクラウド費用を第2四半期までに使い果たすといった報告を受けたこともあるという。「費用削減は大きな効果をもたらすが、成功するには社内で専門スキルを育成するか、外部から調達する必要がある」と同氏は述べる。

　インフラ面では、地政学的な動向や電力供給の制約によって、最新のアクセラレーター（AI処理を高速化するハードウェア）を地理的に均等に配置することは難しくなっている。これに対してRed Hatは「Helion」というプロジェクトを通じ、市場に登場する新しいアクセラレーター間でシステムの抽象化を実現し、オープンソースを用いて異なるハードウェアを連携させる取り組みを進めている。

　ワット氏が描く最善のシナリオは、AIエージェントの活用によってビジネスプロセスの処理速度が10倍になる未来だ。手続きに数週間かかっていた処理が数日で完了するなど、企業が提供する価値の速度が劇的に向上するという。一方で最悪のシナリオとして、フロンティアAIとオープンウェイトモデルの性能差が埋まらず、少数のハイパースケーラーによる市場独占が進む危険性も危惧している。企業はAI技術の動向を正確に把握し、事業規模に見合った最適なインフラ体制を選択し続けることが求められる。

本稿は、Informa TechTargetが2026年5月26日に公開した記事「Red Hat distinguished engineer unpacks 'The Agentic Paradox'」と、5月14日に公開した動画「IT Ops Query: Red Hat distinguished engineer unpacks ”The Agentic Paradox”」を基に作成しました。