AI時代に求められる新機軸のセキュリティ
AI導入を急ぐ企業に迫る「静かな崩壊」 被害を最小化するレジリエンスの鉄則とは？
企業の88％がAIを活用する中、従来型とは異なる攻撃手法が情シスの死角となっている。会話を通じた操作やRAG経由の漏えいなど、既存ツールでは防げない脅威の正体とは。被害を最小化する防御戦略の核心に迫る。
企業のAI導入は、歴史上のどのソフトウェアカテゴリーよりも急速に進んでいる。ベンチャーキャピタルの米メンロー・ベンチャーズ（Menlo Ventures）によれば、AIは3000億ドル規模のSaaS市場の6％を占めるまでに成長した。マッキンゼー・アンド・カンパニー（McKinsey & Company）の報告では、88％の企業が少なくとも1つの業務にAIを適用しているという。
競合に後れを取るまいとAI導入を急ぐあまり、深刻なセキュリティ上の脆弱（ぜいじゃく）性が見逃されている。実稼働へのスピードが、安全でレジリエント（回復力がある）な環境を確保するための適正評価を追い越している状況だ。攻撃者はすでにこの隙を突き始めている。
AI特有の侵害にはどのようなものがあるか
「AI時代に求められる新機軸のセキュリティ」に関連する編集部お薦め記事
企業環境へのAI導入は、従来とは異なる広範な攻撃対象領域を生み出す。攻撃者はこの事実を熟知しており、露出したAIインフラを悪用している。
AIアプリケーションは、ユーザー入力の処理方法の点で従来のソフトウェアとは多くの違いがある。従来のソフトウェアは予測可能性に基づき、同じ入力では同じ出力を返す。しかし、大規模言語モデル（LLM）の出力は、温度設定や文脈の長さ、ツールの有無などの要因で変化する。そのため、脆弱性が修正されたかどうかの検証すら困難になる。
LLMのもう1つの大きな違いは、攻撃者がソフトウェアの脆弱性を突く必要がない点だ。攻撃者はソーシャルエンジニアリングに近い手法で、曖昧さを利用したり文脈をずらしたりしてLLMに侵入できる。インフラを乗っ取らなくても、LLMを操作して悪意ある動作を引き起こすことができる。また、データパイプラインを改ざんして出力を汚染する「データポイズニング」も脅威となる。
AIは本質的にプロンプトインジェクションなどの戦術に弱い。攻撃者はこれらを用いてAIを欺き、ルールを無視させて悪意のある指示に従わせる。検索拡張生成（RAG）やコネクターを悪用したデータ窃取も一般的だ。攻撃者は検索時にアクセス制御を回避する。さらに、AIを使ってサプライチェーンの脆弱性を高速に特定し、攻撃をしかけるケースも増えている。
攻撃者は言語を駆使し、従来のセキュリティツールの制御を回避する。LLMはコード、人事、顧客関係管理（CRM）など、複数の環境に接続されることが多い。LLMのワークフローへの侵入は、これらの領域を同時に侵害するリスクをはらんでいる。生成されたテキストやログ、ツールの出力などを通じてデータが漏えいする恐れがある。
AIによる侵害は、一見無害な問い合わせの積み重ねで発生するため検知が難しい。調査担当者は、漏えいしたデータが学習データ、メモリ、コネクターのどこに由来するかを特定する必要がある。
サイバーレジリエントなAI環境の構築
AI侵害の影響は、機密データの露出から規制による罰金、AIシステムの誤作動まで多岐にわたるため、セキュリティをAI活用の必要な要素として捉えなければならない。セキュリティ担当者は、当初からガバナンスと脅威モデリングを確立すべきである。プロンプトインジェクションやRAGを介した情報漏えいなどLLM特有の脅威を想定する必要がある。
ユーザーインタフェース（UI）だけでなく、検索時の認可要件の適用が必要だ。身元に基づく許可が、データベースや検索レイヤーにまで及んでいることを確認しなければならない。AIに限った話ではないが、機密性の高い文書がインデックス化されないようデータの分類とタグ付けを徹底することも重要だ。
また、全てのコネクターと資格情報の保護も必要だ。コネクターには最小権限の原則に基づくアクセス制御を適用する。ツールやエージェントの実行には、許可リストや制約を組み込んだポリシーでセキュリティを担保する。支払い処理や顧客向けメール送信など永続的な影響があるアクションには人の介入を義務付けるべきである。
プロンプトインジェクションを防ぐには、強力なシステムプロンプトを使用する。加えて、外部コンテンツは安全が証明されるまで悪意があるものと見なす「ゼロトラスト」の制御を実装する。データ損失防止（DLP）プロトコルにより、ユーザーが機密内容をAIに貼り付けることを阻止する。
サプライチェーンのセキュリティも重要だ。全てのチェックポイントを精査し、モデルレジストリを継続的に保守する必要がある。テナントやインデックスを分離し、インフラを堅牢（けんろう）化する。シングルサインオンや多要素認証（MFA）を通じて、厳格なアイデンティティーおよびアクセス管理を維持すべきだ。
セキュリティ運用（SecOps）チームは、ロギングと監視を警戒レベルで維持する。異常なクエリパターンや、機密ラベルへのアクセス急増といった兆候を監視しなければならない。また、ツールやコネクターのオフライン化、トークンの更新、インデックスの削除などの手順を定めたAIインシデントレスポンスガイドを用意しておく。
AIの統合が進む中で、セキュリティを伴わないスピード重視の姿勢は大きな失敗を招く。AIの変革的な可能性は、サイバーセキュリティと積極的なリスク管理という基盤の上で初めて実現される。今サイバーレジリエンスを優先する組織こそが、AI主導の未来で繁栄を手にできるのだ。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
2
“アジャイルの壁”に挑むオリックス生命がIBMの開発管理ツールを選んだ理由
-
3
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
4
IT製品の導入に関するアンケート「セキュリティ」編
-
5
Claude利用8割のGMO、AI人材の評価軸が「トークン管理」に変わった
-
6
RAGで「データをAIに送る」運用が限界を迎えている理由
-
7
ライオンが挑む「守りのIT」脱却：Google Cloudで加速させるデータ駆動型経営
-
8
最も脆弱性が少ない＆多いプログラミング言語が判明
-
9
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
-
10
回避策ゼロ、極めて危険なCisco脆弱性 メール1通で管理者権限、ログ消去の手口
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「標的型攻撃メール」事例・サンプル集
-
10
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー