OpenAIの誘いを蹴った起業家が見ているAIエージェントの真価：意思決定の95％をAIに委ねる未来は来るか？

AIエージェントが企業の意思決定を劇的に変えようとしているが、その普及を阻む最大の要因は「信頼」だ。95%の業務判断をAIに委ねる未来を前に、情シスが今備えるべきガバナンスの要諦を解き明かす。

[Tim Murphy，TechTarget]

　エージェンティックAIは急速に進化している。しかし、これらのシステムが現実の環境でどのように振る舞うかについて、確信を持てている層はまだ限られている。

　AGI Inc.のCEO兼創設者であるディブ・ガーグ氏は、AIエージェントが企業のワークフローの一部を既に自動化していると述べる。一方で、機密性の高いタスクや影響力の大きいタスクをAIに完全に任せる準備は、まだ整っていないと主張する。特にエージェントがメールやCRM、金融口座などのツールにアクセスする場合、セキュリティや権限、予測不能な挙動が大きな阻害要因となる。

　ガーグ氏は、コストと導入の制約もハードルとして挙げている。現在のシステムは大規模な運用に多額の費用がかかる場合があり、複雑なワークフローを部分的にしか自動化できないことも多い。それでも同氏は、販売、採用、一般事務といった反復作業が多い分野を中心に、エージェンティックAIが企業の自動化に大きな価値をもたらすと期待している。

　以下では、ガーグ氏がなぜ大手テック企業を蹴ってまでスタートアップを立ち上げたのか、AppleやGoogle、NVIDIAでの経験から何を学んだのか、そしてAIエージェントが企業で最も大きな影響を与えるのはどの分野なのかについて語る。

本記事のサマリ

AIリサーチラボ「AGI Inc.」の創設者であるディブ・ガーグ氏による、エージェンティックAI（自律型AI）についての主な見解は以下の通りだ。

• 最大の障壁は「信頼」にある
• セキュリティ、権限、制御が依然として必要
• コストが大規模な導入を制限している
• 現在の自動化は、多くの場合で部分的である
• 短期的な最大の価値は、定型業務の自動化にある
• 強力なガバナンスとアクセス制御が求められる
• AIは意思決定への影響力を強めている

OpenAIからの100万ドル近いオファーを断り、自身の会社を設立した理由は

「AIと経営」に関連する編集部お薦め記事

ディブ・ガーグ（以下、ガーグ）　私自身の手でイノベーションを起こしたかったからだ。大企業に加われば、組織の一部にはなれるが、自分で物事を指揮したり変えたりすることはできない。私は製品を作り、人々のやり方を根本から変えるような画期的なものを市場に出したいと考えていた。それが常に私を興奮させてきた。

　世の中には多くのアプリケーションがある。最先端の研究所でモデルのトレーニングだけに時間を費やすのは自分の才能の無駄遣いだと感じた。起業には多くの学びがある。技術に責任を持つだけでなく、組織を構築し、優れた製品を作り、ユーザーに売るための機微を理解する必要がある。これは一生に一度の機会で、逃したくなかった。

Apple、Google、NVIDIAでの経験から、AI構築について何を学んだか

ガーグ　多くのAIチームで働き、その規模や内部での考え方に触れられたのは素晴らしい経験だった。大企業にはGPUなどのリソースが豊富にあり、何で「卓越している」とするかの実例を見られたことは非常に役立った。それらの取り組みには刺激を受けている。

　Appleのクラウドプロジェクトでは、世界レベルの専門家と働いた。上司は世界的に著名なAI科学者であるイアン・グッドフェロー氏だった。この分野の最高峰から学べたのは信じられないような経験だ。彼らは、モデルのトレーニング、評価、ベンチマーク、そして現実世界へのデプロイについてのベストプラクティスを示してくれた。

　考えなければならないことは山ほどある。例えば「どうすれば信頼を築けるか」だ。なぜ人間はそのシステムを信頼するのか。自動運転車が走り出したとき、なぜ人はパニックに陥らないのか。また、AIをユーザーの日常生活の一部にする方法についても多くを学んだ。これは斬新なものを作る際に重要な視点だ。

大手テック企業が間違っていると感じる点はあるか

ガーグ　大企業は動きが遅い。何かを立ち上げる前に、社内の政治を調整し、ブランドを管理しなければならないからだ。例えばGoogleのような企業は、新製品の発売前に弁護士との調整に3カ月を費やす必要がある。

　スタートアップははるかに迅速に動き、より大きなリスクを取ることができる。小さな会社なら世間の注目も低く、知る人も少ない。β版として製品を世に出し、たとえ90％の完成度で10％の修正が必要だとしても、それは許容される。大企業に比べて素早く行動できるのだ。

多くのベンダーが自社製品を「エージェンティック」と呼んでいる。真の自律型エージェントと、単純な自動化やチャットボットの違いは何か

ガーグ　エージェントとは、環境内でインテリジェントに意思決定を下せる存在だ。その環境は、コーディング空間かもしれないし、PC上でアクションを実行する場かもしれない。単なるスクリプト（台本）通りではなく、ユーザーの好みに基づいて最適な選択肢を選べる「知的な意思決定」が必要だ。

エージェントが現実の環境で信頼に足る有用なものになるには、どのような技術的ハードルを解決すべきか

ガーグ　現在欠けている最大の要素の1つは「信頼」だ。信頼とは、エージェントが命じられた通りに実行するかどうかを指す。これは多くの場面で不足している。例えば「OpenClaw」などを使用する場合、セキュリティやプライバシーの問題が山積しており、エージェントが誤った操作をしても制御する手段がほとんどない。これをどう修正するかが、私たちが解決したい大きな課題だ。銀行口座やパスワードへのアクセス権を持つAIエージェントを、正確に動作すると信頼できるか。それをいかに実現するかが重要だ。

　第2の側面はコストだ。どのようなエージェントを使うにしても、現状では非常に高額だ。1日に1000ドルを費やすこともあり、一般のユーザーにとっては現実的ではない。AIエージェントを世界中のあらゆる人に広めるには、AIのコストを限りなくゼロに近づける必要がある。私たちはこの点に注力している。

　私たちが取り組んでいることの多くは、デバイス上での実行だ。例えば、スマートフォンのAIを完全にローカル化し、自身のデバイスで動かすにはどうすればよいか。これが、推論コストがかからず、誰もが利用できる「エッジ上で動作する超知能」の未来への道筋だ。

ソフトウェアに自分の代わりに行動させることを、人々は受け入れると思うか

ガーグ　利便性が決め手になるだろう。私たちはみんな毎日多くの退屈でさまつなタスクを抱えている。AIの「副操縦士」や「相棒」がそれらを全て代行してくれれば、生活は一変する。そうすれば、その瞬間を大切にし、自分が情熱を注げることに集中できるようになる。

企業が大規模に導入する場合、自律型AIシステムにはどのようなガバナンス管理が必要か

ガーグ　多くのアクセス権限管理が必要だ。AIがどのアプリケーションにアクセスし、使用できるか。どの程度の機密データへのアクセスを許すか。メール、プライベートな情報、パスワードにアクセスできるか。クレジットカードを決済に使用できるか。

　私たちは、きめ細かな権限レイヤーの構築を試みている。例えば、ユーザーがAIに使用させるアプリケーションを選べるようにする。UberやDoorDashは許可するが、銀行アプリケーションは許可しない、といった具合だ。そして、これを時間の経過とともに制御できるようにする。

エージェンティックAIは、最初にどこで有意義なビジネス価値を生み出すと考えるか

ガーグ　企業の業務自動化だ。企業は既にワークフロー自動化やRPAツールに多額の投資をしている。これらのプロセスの多くは、最終的にAIエージェントに置き換わる可能性がある。また、販売、採用、SalesforceなどCRMの管理といった分野には、反復的な事務作業が多く存在する。これらのタスクの多くはエージェントによって自動化できる。

エージェンティックAIは、ナレッジワーカーを大規模に置き換えることになるのか

ガーグ　既にその兆候は見え始めている。コーディングエージェントは非常に普及しており、誰もが利用している。現時点で、エンジニアリングの多くは自動化されている。自らコードを実行する人は減り、多くのシステムが自動化されつつある。あらゆるものにAIネイティブなプラットフォームが登場し、手作業でデータを入力したり情報を探したりする必要はなくなった。かつては膨大な人手を要した退屈な工程の数々が、いまや自動化されている。

CIOが組織への導入を検討する際、ツールを選ぶ前にどのような質問をすべきか

ガーグ　まず、そのAIツールが実際にビジネス上の課題を解決できるかを確認すべきだ。組織ごとにワークフローやシステム、運用のニーズは異なる。そのため、製品が自社の環境に適応できるかどうかを評価しなければならない。

　また、エージェンティックAIの現在の限界について現実的になる必要がある。ワークフローの30％しか自動化できず、残りの70％には依然として多大な人手が必要な場合もある。投資を行う前に、その技術が確実に「できること」と「できないこと」を理解しておくことが重要だ。

組織は意思決定のどの程度をAIシステムに委ねるようになると予測するか

ガーグ　95％以上だ。これは既に起こり始めている。優れたAIチャットボットは非常に知的で、強力な推論能力を備えている。聡明（そうめい）なリーダーの多くは意思決定にAIを活用している。AIは、チームが考慮すらしていなかった盲点を明らかにできるからだ。これは組織に問題解決のための大きな力を与える。複雑な技術環境の意思決定の多くは、AIによって行われるようになるだろう。