AIのトークン浪費をどう防ぐか

Pythonの限界？　AIに「Rust」でコードを書かせる新手法「コードモード」とは

AIツールの自動ソースコード生成は、不要なデータ処理が膨れ上がり、トークンを浪費してしまう課題がある。システムプログラミング言語「Rust」を活用した新たなアプローチは、この非効率性をどう打ち破るのか。

公開 2026年07月04日 08時01分

[TechTargetジャパン]

印刷する

　AIエージェントが自律的にプログラムを記述する「AIコーディング」の領域において、「AIツールが生成したソフトウェアをいかに安全にし、高いパフォーマンスを発揮させるか」という要求がかつてなく高まっている。AIモデルの学習や推論を支えるシステムでは、「Python」や「JavaScript」といった記述が容易な言語が主流だが、実行時のエラーやパフォーマンスの限界が課題になることがある。

　こうした中、米国の政府機関がメモリ安全なプログラミング言語の使用を推奨する動きを見せており、先進的なAI企業はシステムプログラミング言語「Rust」を採用し始めている。Rustはコンパイラが非常に厳格であり、学習曲線が急であるものの、一度コンパイルが通れば安定して稼働する堅牢（けんろう）な分散システムを構築できるのが利点だ。

　2025年11月に開催されたクラウドネイティブ技術のイベント「KubeCon + CloudNativeCon North America 2025」において、エッジコンピューティングインフラを提供するSecond Stateのマイリー・フー氏が登壇した。同氏は「Rust Is the Language of AGI」と題したセッションで、AIエージェントの自律性を高めるためのRustの優位性を語った。

　セッションの中でフー氏が指摘したのが、LLM（大規模言語モデル）の学習データに含まれるRustのサンプルコードは、Pythonに比べて少なく、AIエージェントに品質の高いRustコードを生成させる難易度が高いという点だ。AIエージェントに外部データやAPIを連携させる際、ツール定義や中間データがコンテキストウィンドウ（LLMがやりとりの中で保持する情報量）の大部分を占有し、数万トークンを浪費してしまうという課題も顕在化しているという。

　これらの課題を同時に克服し、AIエージェント自身に自律的にソースコードを生成、デバッグさせつつ、トークンの浪費を抑えるアプローチがある。どのような仕組みでAIエージェントの能力を最大限に引き出すのか。

コンパイラに間違いを直させる“自律的デバッグ”

併せて読みたいお薦め記事

Rustの実力

　本稿は、フー氏のセッションの内容を中心に、AI開発の最前線で起きている変化を解説する。同氏は、オープンソースを支援する非営利団体Linux Foundation傘下の、軽量で高速な実行環境「WasmEdge」プロジェクトの創設メンバーだ。

　AIエージェントが自らソースコードを書き、システムを制御する未来に向けて、Rustの強力なコンパイラは重要な役割を果たす。開発者向けQ&AサイトのStack Overflowの年次調査では、Rustは「最も愛されるプログラミング言語」に複数回選出されているが、開発者にとって必ずしも「最も使いたい言語」ではない。その理由は、コンパイラが正しいソースコードを書くことを厳格に要求し、コンパイルを通すこと自体のハードルが高い点にある。

　しかし、この「人間の開発者にとっての難しさ」が、AIエージェントにとっては逆の恩恵をもたらす。ソースコードに変数の型を明示する「静的型付け言語」であるRustのコンパイラが出力するエラーメッセージは、AIエージェントにとって高品質かつリアルタイムの「フィードバック」になる。

　フー氏が紹介したオープンソースプロジェクト「RustCoder」は、こうしたRustの特性を生かし、AIエージェントが自律的にシステムを構築するためのフレームワークだ。このプロジェクトでは、開発者が自然言語で記述した要求から、AIエージェントがすぐにビルド・実行できる状態のRustプロジェクトを生成し、コンパイルと実行を実施する。コンパイルエラーが発生した場合には、コンパイラからの詳細なメッセージを読み取り、自律的にコードを修正するサイクルを自動で回す。

　つまり、厳格なRustコンパイラがAI生成コードを自動で採点し、誤りを指摘することで、人間の介入なしにソースコードが正しく動くまでデバッグを継続できる。これによって、検証可能で正確性の高いプログラムを生成する仕組みが実現しているのだ。

「コードモード」によるMCPのトークン消費削減

　セッションで強調されたもう一つの重要な技術的ブレークスルーが、トークン消費を劇的に抑える「コードモード」だ。

　LLMに外部ツールを使わせる標準プロトコルとしてMCP（Model Context Protocol）が普及しつつある。従来の手法では、MCPのツール定義を直接LLMのコンテキストウィンドウに渡し、中間結果も全てLLMに読み込ませていた。その結果、コンテキストウィンドウの大部分をツール定義が占有し、不要なデータ処理によってトークンを過剰に消費し、費用の増大を招くという課題があった。

　「コードモード」は、この非効率なプロセスを根本から見直す手法だ。MCPツールを直接LLMに扱わせるのではなく、JavaScriptを拡張した言語である「TypeScript」やRustなどのプログラミング言語のAPIに変換する。LLMにはツールを直接呼び出させるのではなく、ツールを呼び出すためのソースコードを書かせるというアプローチを採る。

　フー氏によると、LLMの学習データにはツール呼び出し用の特殊なフォーマットよりも、人間が書いた膨大な実際のソースコードが多く含まれている。そのため、LLMにとっては直接ツールを呼び出させるよりも、ツールを操作するためのソースコードを書く方が自然であり、精度も高くなる。生成されたソースコードは、「WasmEdge」などのセキュアな実行環境内で実行される。

　こうした実行環境内で、データの抽出やループ、条件分岐といった複雑なロジックを完結させ、最終的にフィルタリングされた必要な結果のみをLLMのコンテキストに返す。これによって、膨大なデータがLLMを往復する無駄を省き、トークンの消費を大幅に削減しつつ、複雑で高度なタスクをAIエージェントに実行させることが可能となる。

安全で自律的なAIエージェントへ

　フー氏はセッション内で、Rustで開発された音声AIエージェントのデモシステムにも触れた。Rustで実装されたサーバが音声認識（ASR）や音声合成（TTS）、LLM、MCPサーバを連携させてオーケストレーションすることで、自然な対話を実現している。

　AIエージェントが自律的にソフトウェアを構築し、ドローンなどの物理的なデバイスを操作する未来において、機能の正確性と安全性の確保は絶対条件だ。Rustの検証可能性と、コードモードによる効率的なツールオーケストレーションの組み合わせは、次世代の高度な自律型AIエージェントを支える強力な基礎技術に位置付けられる。

　開発現場においては、単にLLMの推論能力に依存するだけではなく、実行環境や使用する言語を、それぞれの特性を踏まえて戦略的に選択することが不可欠だ。トークンの費用を抑えつつ安全性を極限まで高めるこのアプローチは、今後のビジネスにおけるエンタープライズAIのシステム構築に重要な指針を示す。

本稿は、CNCF（Cloud Native Computing Foundation）が2025年11月25日に公開した動画「Rust Is the Language of AGI - Miley Fu, Second State」を基に作成しました。

印刷する