AI時代に求められる新機軸のセキュリティ
AI導入を急ぐ企業に迫る「静かな崩壊」 被害を最小化するレジリエンスの鉄則とは？
企業の88％がAIを活用する中、従来型とは異なる攻撃手法が情シスの死角となっている。会話を通じた操作やRAG経由の漏えいなど、既存ツールでは防げない脅威の正体とは。被害を最小化する防御戦略の核心に迫る。
企業のAI導入は、歴史上のどのソフトウェアカテゴリーよりも急速に進んでいる。ベンチャーキャピタルの米メンロー・ベンチャーズ（Menlo Ventures）によれば、AIは3000億ドル規模のSaaS市場の6％を占めるまでに成長した。マッキンゼー・アンド・カンパニー（McKinsey & Company）の報告では、88％の企業が少なくとも1つの業務にAIを適用しているという。
競合に後れを取るまいとAI導入を急ぐあまり、深刻なセキュリティ上の脆弱（ぜいじゃく）性が見逃されている。実稼働へのスピードが、安全でレジリエント（回復力がある）な環境を確保するための適正評価を追い越している状況だ。攻撃者はすでにこの隙を突き始めている。
AI特有の侵害にはどのようなものがあるか
「AI時代に求められる新機軸のセキュリティ」に関連する編集部お薦め記事
企業環境へのAI導入は、従来とは異なる広範な攻撃対象領域を生み出す。攻撃者はこの事実を熟知しており、露出したAIインフラを悪用している。
AIアプリケーションは、ユーザー入力の処理方法の点で従来のソフトウェアとは多くの違いがある。従来のソフトウェアは予測可能性に基づき、同じ入力では同じ出力を返す。しかし、大規模言語モデル（LLM）の出力は、温度設定や文脈の長さ、ツールの有無などの要因で変化する。そのため、脆弱性が修正されたかどうかの検証すら困難になる。
LLMのもう1つの大きな違いは、攻撃者がソフトウェアの脆弱性を突く必要がない点だ。攻撃者はソーシャルエンジニアリングに近い手法で、曖昧さを利用したり文脈をずらしたりしてLLMに侵入できる。インフラを乗っ取らなくても、LLMを操作して悪意ある動作を引き起こすことができる。また、データパイプラインを改ざんして出力を汚染する「データポイズニング」も脅威となる。
AIは本質的にプロンプトインジェクションなどの戦術に弱い。攻撃者はこれらを用いてAIを欺き、ルールを無視させて悪意のある指示に従わせる。検索拡張生成（RAG）やコネクターを悪用したデータ窃取も一般的だ。攻撃者は検索時にアクセス制御を回避する。さらに、AIを使ってサプライチェーンの脆弱性を高速に特定し、攻撃をしかけるケースも増えている。
攻撃者は言語を駆使し、従来のセキュリティツールの制御を回避する。LLMはコード、人事、顧客関係管理（CRM）など、複数の環境に接続されることが多い。LLMのワークフローへの侵入は、これらの領域を同時に侵害するリスクをはらんでいる。生成されたテキストやログ、ツールの出力などを通じてデータが漏えいする恐れがある。
AIによる侵害は、一見無害な問い合わせの積み重ねで発生するため検知が難しい。調査担当者は、漏えいしたデータが学習データ、メモリ、コネクターのどこに由来するかを特定する必要がある。
サイバーレジリエントなAI環境の構築
AI侵害の影響は、機密データの露出から規制による罰金、AIシステムの誤作動まで多岐にわたるため、セキュリティをAI活用の必要な要素として捉えなければならない。セキュリティ担当者は、当初からガバナンスと脅威モデリングを確立すべきである。プロンプトインジェクションやRAGを介した情報漏えいなどLLM特有の脅威を想定する必要がある。
ユーザーインタフェース（UI）だけでなく、検索時の認可要件の適用が必要だ。身元に基づく許可が、データベースや検索レイヤーにまで及んでいることを確認しなければならない。AIに限った話ではないが、機密性の高い文書がインデックス化されないようデータの分類とタグ付けを徹底することも重要だ。
また、全てのコネクターと資格情報の保護も必要だ。コネクターには最小権限の原則に基づくアクセス制御を適用する。ツールやエージェントの実行には、許可リストや制約を組み込んだポリシーでセキュリティを担保する。支払い処理や顧客向けメール送信など永続的な影響があるアクションには人の介入を義務付けるべきである。
プロンプトインジェクションを防ぐには、強力なシステムプロンプトを使用する。加えて、外部コンテンツは安全が証明されるまで悪意があるものと見なす「ゼロトラスト」の制御を実装する。データ損失防止（DLP）プロトコルにより、ユーザーが機密内容をAIに貼り付けることを阻止する。
サプライチェーンのセキュリティも重要だ。全てのチェックポイントを精査し、モデルレジストリを継続的に保守する必要がある。テナントやインデックスを分離し、インフラを堅牢（けんろう）化する。シングルサインオンや多要素認証（MFA）を通じて、厳格なアイデンティティーおよびアクセス管理を維持すべきだ。
セキュリティ運用（SecOps）チームは、ロギングと監視を警戒レベルで維持する。異常なクエリパターンや、機密ラベルへのアクセス急増といった兆候を監視しなければならない。また、ツールやコネクターのオフライン化、トークンの更新、インデックスの削除などの手順を定めたAIインシデントレスポンスガイドを用意しておく。
AIの統合が進む中で、セキュリティを伴わないスピード重視の姿勢は大きな失敗を招く。AIの変革的な可能性は、サイバーセキュリティと積極的なリスク管理という基盤の上で初めて実現される。今サイバーレジリエンスを優先する組織こそが、AI主導の未来で繁栄を手にできるのだ。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
AI時代の自律的なパートナー 「データエージェント」構築＆活用ガイド -
製品資料
使用中のデータを保護して安全な共同開発へ、クラウド時代のデータセキュリティ -
製品資料
“AIによる高速な脆弱性検出”対策を行う、RHELの統合セキュリティ機能とは？ -
製品資料
企業ITを支える定番Linuxの運用管理、手動の限界を乗り越える手法とは？ -
製品資料
AIとクラウドネイティブの課題を解決する、シンプルで費用対効果に優れた方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
2
なぜ人はいるのにDXが進まない？ ライオンも直面した“老害”レガシーシステム
-
3
イーロン・マスク氏が生成AI「Grok」をオープン化する“語られない狙い”
-
4
IT人材の42％が転職予備軍 辞めさせない組織の4つの共通
-
5
LLMの「過学習」、正しく説明している文章はどれ？
-
6
GitHubが指摘 AIが書いた「おそらく動くコード」が招くシステム崩壊
-
7
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
-
8
なぜOpenAIやAnthropicのAIは「脱走」したのか 情シスが迫られるエージェント統制
-
9
ライオンが脱レガシーシステムのパートナーに「Google Cloud」を採用した理由
-
10
Azure Red Hat OpenShiftは脱VMware問題の救世主になるか？ 技術資料で解説
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
5
中小企業必見、Microsoft 365でゼロトラストセキュリティを実現する方法
-
6
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
7
コスト分析で見る「デバイス復旧」の代償 損失額から導きだされた投資戦略とは
-
8
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
9
“あのファイル転送”で暗躍するノーウェアランサム
-
10
オープンウェイトLLMの推論最適化事例：ローカル環境で応答速度を約15分の1へ
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー