「シャドーAI」のリスクと対策【中編】
無許可AI利用「シャドーAI」を防ぐには? 今すぐ実行できる4つの施策
従業員がIT部門の許可なしにAIツールを使う「シャドーAI」は、企業にとって深刻なリスクだ。IT部門はどうすればシャドーAIを防げるのか。すぐに実施できる4つの対策を説明する。
画像やテキストを自動生成するAI(人工知能)技術「生成AI」ツールは、さまざまな作業を自動化できるという意味で企業に大きなメリットをもたらす。しかし、生成AIツールの利用を巡るリスクもある。その一つは、従業員がIT部門の許可なしに使う「シャドーAI」だ。シャドーAIはデータ流出やコンプライアンス(法令順守)違反につながりかねない。シャドーAIを抑制するには、どうすればいいのか。4つの対策を紹介する。
シャドーAI撲滅のために知りたい「4つの対策」
併せて読みたいお薦め記事
連載:「シャドーAI」のリスクと対策
AIとセキュリティ
企業はシャドーAIのリスクを軽減するために、さまざまな対策を講じることができる。シャドーAIを完全になくすことは難しいが、以下の対策によって悪影響を抑えることが可能だ。
対策1.モニタリング
ネットワーク監視ツールを使って従業員の行動やネットワークの利用状況をモニタリングすれば、シャドーAIを特定できる。許可されていないツールの利用を検出し、ネットワーク接続を遮断するといった処置が可能だ。ネットワーク監視ツールには、シャドーAIを「いつ」「誰が」「どう使ったか」を明らかにするための監査機能もある。
対策2.AIガバナンスの確立
企業はAI技術の利用に当たり、過度な制約を避けたいと考える傾向がある。とはいえ、さまざまなリスクを軽減するためのルールづくりは欠かせない。AIガバナンスを構築するときは、許可されているAIツールの一覧、AIツールの利用方法、利用に当たっての責任範囲などを定めて、従業員に指導することが重要だ。特に、AIツールの倫理的利用や機密情報の取り扱いを軸にしたコンプライアンス意識を高める教育に取り組みたい。
対策3.AIのモデルリスク管理(MRM)
AIツールの中核は、データを分析して回答を生成する「AIモデル」だ。AIモデルは、攻撃を受けて不正な指示が与えられる他、誤った設定などによって偏りのある回答や不正確な回答を生成する恐れがある。そうしたことを避けるための手法として、AIモデルに特化したモデルリスク管理(Model Risk Management:MRM)がある。MRMは、AI技術利用に内在するリスクを明確に定義し、それに対処する管理体制を整備する。企業はMRMによって、リスクの予見と責任の明確化を実現し、安全なAI技術利用に取り組めるようになる。
対策4.従業員教育と部門連携
他のセキュリティ対策と同様、シャドーAIを防ぐためには、継続的な教育によって、従業員にシャドーAIのリスクを伝えることが不可欠だ。企業はIT部門や法務部門などとの連携を深め、社内で知識を共有しながら、AIガバナンス体制を強化することが求められる。
後編は、シャドーAIの対策を講じる際の注意点を取り上げる。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget発 グローバルITピックアップ
TechTargetジャパンの記事の一部で生成AIを補助的に活用し、米国Informa TechTargetの記事を翻訳・編集して国内向けにお届けします。編集部による内容の確認を徹底しています。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[ネットアップ合同会社] 金融庁ガイドラインから読み解く、「次世代データレジリエンス」の在り方 -
製品資料
[ネットアップ合同会社] 製造DXでデータ活用ニーズが拡大 分散データ活用とAI活用をどう実践する? -
製品レビュー
[ネットアップ合同会社] AIで使いたいデータが内外に点在、研究におけるAI活用を阻む“真の課題”とは -
製品資料
[株式会社kickflow] 稟議・承認作業の「脱オンプレ・脱Excel・ペーパーレス化」を一気に進める方法 -
製品レビュー
[株式会社kickflow] ワークフローシステムのクラウド化 “みんなが不幸になる”事態を避けるには?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ人はいるのにDXが進まない? ライオンも直面した“老害”レガシーシステム
-
2
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
3
障害対応に「余裕なし」が9割超 運用担当316人調査で見えた「運用赤字」
-
4
シャトレーゼを悩ませる偽メール 混乱なしでBIMI導入とDMARC強化を実現した方法
-
5
「エージェントを作るな、スキルを作れ?」 Anthropicが提唱するAI運用の勘所
-
6
Microsoft月例パッチ1400件超で過去最多 「限界点」を迎えたパッチ管理
-
7
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
8
いまIBM iエンジニアが直面する「5つの技術的課題」とその解決策
-
9
「ITサービスマネジメントの利用実態」に関するアンケート
-
10
「年1回の外部診断」が限界に 大手小売が脆弱性管理を内製化・一元化した方法
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か? 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
7
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ?
-
9
「標的型攻撃メール」事例・サンプル集
-
10
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー