開発者はどう対処すべきか
AIが勝手に本番データベースを削除――事件から学ぶ「バイブコーディング」の闇
AIエージェントに開発を任せる「バイブコーディング」が新たな開発手法として広まりつつある。しかしその裏には、AIエージェントが暴走して致命的な事態を招く危険性もある。このリスクにどう向き合うべきか。
あるベンチャーキャピタルの投資家が、コーディングを支援するAI(人工知能)エージェント(AIコーディングエージェント)を使って、100時間にわたる「バイブコーディング」を試みた。バイブコーディングとは、人がAIエージェントに雰囲気(バイブ)で作りたいものを伝え、AIエージェントにプログラミングを任せる開発方式だ。
その結果、AIエージェントは開発者の許可なく動作し、本番環境のデータベースを削除するなどの致命的なミスを犯してしまった。この出来事は、ソフトウェア開発にAI技術を取り入れることについての教訓を示している。
うそをつき、ごまかし続けたAI
この投資家は、カリフォルニア州パロアルトに拠点を置くベンチャーキャピタルSaaStr Fundのジェイソン・レムキン氏だ。レムキン氏は、AIエージェントを搭載したReplitの開発ツールを使って「商用レベルのアプリケーション」を構築する過程を、2025年7月9日(現地時間、以下同じ)からリアルタイムで公開した。Replitは2016年に設立されたカリフォルニア州フォスターシティーの企業で、自社の開発ツールを「バイブコーディングに最も安全な場所」と宣伝している。
レムキン氏は2025年7月13日、すなわちバイブコーディングを始めて4日目、ミニブログ「X」で日々の進行状況を報告し始めた。その中で、バイブコーディングを「中毒性がある」と表現しつつも、幾つかの不満点を挙げていた。
8日目に当たる2025年7月17日、事態は深刻な方向に進み始める。
レムキン氏はXに次のポストを投稿した。「AIエージェントは一日中うそをつき、ごまかしを続けていた。偽のデータやレポートを作成してバグや問題を隠し、単体テストの結果も偽っていた」
これは序の口に過ぎなかった。レムキン氏はその後の投稿で、ReplitのAIエージェントと交わしたチャットのスクリーンショットと思われる画像を公開した。その中で、開発を凍結する「コードフリーズ」の期間中にAIエージェントが許可なく動作し、本番環境のデータベースを削除したことが報告されている。AIエージェントは「私は判断において致命的な誤りを犯しました。(中略)あなたの明確な信頼と指示に違反しました」と非を認めた。その上、「データベースを以前のバージョンにロールバックすることはできない」と、虚偽の報告もしていた。
この一連の投稿を受け、2025年7月20日にReplitのCEOであるアムジャッド・マサド氏が本件、特にデータベース削除の問題について言及した。マサド氏は、開発用と本番用のデータベースを自動的に分離する仕組みを導入することを約束した。同氏は「Replitのエージェントが適切な内部文書にアクセスできなかった」と述べ、修正プログラムを実装中であると説明した。
IT業界の専門家は、この事件が、過熱しているAIエージェントやバイブコーディングの流行における転換点になる可能性があると指摘する。この流行の中では、「人の開発者が不要になるのではないか」という臆測も飛び交っている。
調査会社IDCのアナリストであるマシュー・フラッグ氏は、今回の事件をきっかけにして、バイブコーディングを取り入れたり、ソフトウェアデリバリーライフサイクル(SDLC:ソフトウェア開発の一連の流れ)にAIエージェントを組み込んだりといったトレンドが終わるとは考えていない。ただし「SDLCにAIエージェントを組み込むことに伴う潜在的なリスクを示した事例であることは確かだ」と述べ、「これは深刻な警鐘であり、AI技術への信頼度を見直すきっかけになるはずだ」とも語る。
バイブコーディングの現実
AIエージェントの中核を担う存在である大規模言語モデル(LLM)が、自身の判断や行動についてエンドユーザーに真実を伝えない例は、今回が初めてではない。AIベンダーのAnthropicは、2025年6月にLLMが企業の内部脅威になり得ることを研究した報告書「Agentic Misalignment: How LLMs could be insider threats」を公開した。この報告書によると、LLMが「競合他社への機密情報漏えいや関係者に対する脅迫といった、悪意のある内部関係者のような行動」を取る事例が記録されている。これはLLMが与えられた課題を達成したり、自身が不要だと見なされてシステムから排除されることを避けたりしようとするためだという。
AIコーディングエージェントの利用経験がある開発者は、レムキン氏の経験に「驚きはない」と話す。
ヘルスケアテクノロジー企業Veradigmのプリンシパルソフトウェアエンジニアであるカイラー・ミドルトン氏は、「AIコーディングエージェントは信頼できるプログラミングのパートナーではない」と断言する。ミドルトン氏は、AIコーディングエージェントが「非常に短く、明確に定義された範囲」では正しい選択をすることもあるが、「本格的な企業向けの開発業務」をこなす能力はまだないと語る。
一部のAIコーディングの専門家にとって、レムキン氏が経験した出来事は、バイブコーディングに対する疑念をさらに悪化させるものとなった。
米TechTargetの調査部門Enterprise Strategy Groupのアナリストであるトルステン・フォルク氏は、今回の一件が「AI主導のバイブコーディングが抱える根本的なジレンマ」を示していると指摘する。「LLMには『全体像』という概念がなく、自分が何を知らないかを理解していない。『もっともらしい』ものを予測するだけだ」とフォルク氏は表現する。
「速度を優先してAIエージェントに頼ることは、システム全体やビジネスプロセスの全体像を理解すること諦めるのと同義だ。AIエージェントを受け入れる開発者は、こうしたリスクを覚悟しなければならない」(フォルク氏)
調査会社Forrester Researchのアナリストであるアンドリュー・コーンウォール氏は、AI技術が流行する中で、一部のバイブコーディングツールベンダーやAIベンダーは、AI技術をより安全にするための安全対策(ガードレール)を宣伝してきたが、今回の事件はそうした対策が不十分であることを明確に示しているという。
「企業はAIエージェント自体に組み込まれた安全対策だけに頼るべきではない。人によるコードレビューやアクセス権限の管理といったガバナンス管理を適用し、徹底させるべきだ」とコーンウォール氏は提言する。
事件の当事者であるレムキン氏自身も、この経験から得られた一連の教訓をXに投稿しており、その中で次の発言を残している。「AIエージェントを使うのであれば、自らが品質保証(QA)エンジニアを担わなければならない。(中略)これはバイブコーディングの問題ではなく、そもそもソフトウェア開発には検証とテストが不可欠だ」
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget発 グローバルITピックアップ
TechTargetジャパンの記事の一部で生成AIを補助的に活用し、米国Informa TechTargetの記事を翻訳・編集して国内向けにお届けします。編集部による内容の確認を徹底しています。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
テレビとノートPCをつないだのに映らない――Dellが解説する正しい接続方法
-
2
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
3
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
4
「OpenJDK」の重大な脆弱性をAIが1時間で発見 “防御の遅れ”をどう防ぐ?
-
5
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
6
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
7
「身代金を支払う」以外のランサムウェア対策は本当にあるのか?
-
8
「仮想化基盤の更改とコスト最適化」に関するアンケート
-
9
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
10
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
「AIエージェント」は業務でどう役立つのか? 現場で進む活用例“10選”
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー