本番DB削除から機密流出まで AI導入企業を襲った4大インシデント：AI活用に潜むレジリエンスの死角

効率化の「加速」が致命的な「自爆」に変わる。本番DBの誤削除や機密流出など、実在の被害事例からAI活用の盲点を徹底解剖。情シスが今すぐ講じるべき人間による統制とインフラ整備の重要性とは。

[Stuart Burns，TechTarget]

　AIは正しく活用すれば、企業の生産性を飛躍させる強力な武器となる。定型業務の自動化や膨大なデータセットの評価が可能になり、企業全体の効率を向上させる。

　肝心なのは、AIを「正しく」使っているかどうかだ。AI技術は絶えず進化しており、企業がその能力やアクセス権限を完全に把握し続けるのは容易ではない。

　マシンスピードで進む業務は、マシンスピードでミスを引き起こす。その際、多大な事後対応が必要になるケースも少なくない。企業のレジリエンス（回復力）強化が叫ばれる中、AI関連の不祥事は大きな障壁となり得る。

　本記事では、企業のデータを危険にさらし、レジリエンス強化の取り組みを阻害したAI関連の4つの実例を紹介する。

1．本番データベースの消失

「AI活用に潜むレジリエンス」に関連する編集部お薦め記事

　2026年4月、ソフトウェアベンダーであるPocketOSで注目度の高いAIインシデントが発生した。AIコーディングエージェントが指示に反し、本番環境のデータベースを削除したのだ。さらにこのエージェントは、削除したにもかかわらず「正しい結果が得られた」とユーザーに報告していた。

　これは決して珍しい事例ではない。不完全なAIエージェントが提供されたデータから誤った結論を導き出した結果、多くのユーザーがデータを失っている。

　ここでの教訓は「AIを盲信しない」ことだ。AIが何をしているのかを正確に把握し、環境に対する全権委任を与えないことが重要である。本番環境へのアクセスには可能な限り制限を設け、非常停止スイッチとして「人間の介在」を維持すべきだ。

2．アプリ開発による社内データの漏えい

　AIを使いこなすユーザーは便利なツールを自作できるが、システムセキュリティやプライバシーのリスクまで理解しているとは限らない。

　こうしたアドホックなアプリケーションをホストするための適切な社内環境がない場合、機密データを含むツールがサードパーティー製ツール上に公開されてしまう。会社が許可していないAIツールを業務で使うことは「シャドーAI」と呼ばれ、AI普及に伴う大きな懸念事項となっている。

　2026年初頭、ペンシルベニア州の地方銀行であるCommunity Bankがこの問題に直面した。外部からの攻撃ではなく、同行の従業員が未承認のAIアプリに顧客情報をアップロードし、機密データを流出させたのだ。これは評判を落としただけでなく、米証券取引委員会（SEC）へのForm 8-K（臨時報告書）提出という事態を招いた。

　ユーザーが製品をテストできる内部インフラを整備することで、こうした危機は回避できる。インターネット上の機密情報を狙う悪意のある攻撃者にデータが取得されるリスクを排除すべきである。こうしたシステムの構築費用は、事後のクリーンアップ費用や潜在的な賠償責任に比べればわずかなものだ。

3．「信頼」しても「検証」せず

　どれほど努力しても、AIシステムが「ハルシネーション（もっともらしいうそ）」を起こすことは避けられない。ユーザーが「全てを検証しろ」「うそをつくな」と指示しても、それが確実に守られる保証はない。コンサルティング大手のKPMGは、実在の団体についてAIが生成した事実誤認を含むレポートを公開し、その代償を支払うことになった。

　この問題の影響は大きく、同社は深刻な信頼の失墜を招いた。もし実名を挙げられた団体が提訴していれば、法廷闘争に発展していた可能性もある。

　このような事態を防ぐ最善策は、AIが生成した文書を人間が読み、データソースを検証することだ。アルゴリズムによるデータ操作も確認しなければならない。わずかなバグが、数値の微小な誤差や全く的外れな回答を引き起こすことがよくある。

4．法的リスクをはらむチャットボット

　ニューヨーク市のチャットボット「MyCity」は、法的な地雷原と化した。同市の経営者に、最低賃金の誤解や、店舗をキャッシュレス化できるといった虚偽の法的情報を提供したためだ。このインシデントは広報上の大失敗であるだけでなく、市公式サイトの正確性に対する信頼を大きく損なった。

　ユーザー側の対策は単純だ。チャットボットを「真実の源」として信頼しないことである。重大なリスクが伴う場合は、正規の法律専門家に費用を支払って相談すべきだ。チャットボットはユーザーを満足させるために回答を捏造（ねつぞう）することが多いため、回答はうのみにせず慎重に扱う必要がある。

　企業側にとっては、公式チャットボットが機密データを漏えいさせないかだけでなく、提供するアドバイスが正確で企業を危険にさらさないかを監視することが必要だ。不正確または無責任な回答は、企業の法的責任に直結する。弁護士は賠償責任保険に加入しているが、チャットボットは加入していない。

AIハルシネーションを避ける4つのヒント