「シャドーAI」のリスクと対策【中編】
無許可AI利用「シャドーAI」を防ぐには? 今すぐ実行できる4つの施策
従業員がIT部門の許可なしにAIツールを使う「シャドーAI」は、企業にとって深刻なリスクだ。IT部門はどうすればシャドーAIを防げるのか。すぐに実施できる4つの対策を説明する。
画像やテキストを自動生成するAI(人工知能)技術「生成AI」ツールは、さまざまな作業を自動化できるという意味で企業に大きなメリットをもたらす。しかし、生成AIツールの利用を巡るリスクもある。その一つは、従業員がIT部門の許可なしに使う「シャドーAI」だ。シャドーAIはデータ流出やコンプライアンス(法令順守)違反につながりかねない。シャドーAIを抑制するには、どうすればいいのか。4つの対策を紹介する。
シャドーAI撲滅のために知りたい「4つの対策」
併せて読みたいお薦め記事
連載:「シャドーAI」のリスクと対策
AIとセキュリティ
企業はシャドーAIのリスクを軽減するために、さまざまな対策を講じることができる。シャドーAIを完全になくすことは難しいが、以下の対策によって悪影響を抑えることが可能だ。
対策1.モニタリング
ネットワーク監視ツールを使って従業員の行動やネットワークの利用状況をモニタリングすれば、シャドーAIを特定できる。許可されていないツールの利用を検出し、ネットワーク接続を遮断するといった処置が可能だ。ネットワーク監視ツールには、シャドーAIを「いつ」「誰が」「どう使ったか」を明らかにするための監査機能もある。
対策2.AIガバナンスの確立
企業はAI技術の利用に当たり、過度な制約を避けたいと考える傾向がある。とはいえ、さまざまなリスクを軽減するためのルールづくりは欠かせない。AIガバナンスを構築するときは、許可されているAIツールの一覧、AIツールの利用方法、利用に当たっての責任範囲などを定めて、従業員に指導することが重要だ。特に、AIツールの倫理的利用や機密情報の取り扱いを軸にしたコンプライアンス意識を高める教育に取り組みたい。
対策3.AIのモデルリスク管理(MRM)
AIツールの中核は、データを分析して回答を生成する「AIモデル」だ。AIモデルは、攻撃を受けて不正な指示が与えられる他、誤った設定などによって偏りのある回答や不正確な回答を生成する恐れがある。そうしたことを避けるための手法として、AIモデルに特化したモデルリスク管理(Model Risk Management:MRM)がある。MRMは、AI技術利用に内在するリスクを明確に定義し、それに対処する管理体制を整備する。企業はMRMによって、リスクの予見と責任の明確化を実現し、安全なAI技術利用に取り組めるようになる。
対策4.従業員教育と部門連携
他のセキュリティ対策と同様、シャドーAIを防ぐためには、継続的な教育によって、従業員にシャドーAIのリスクを伝えることが不可欠だ。企業はIT部門や法務部門などとの連携を深め、社内で知識を共有しながら、AIガバナンス体制を強化することが求められる。
後編は、シャドーAIの対策を講じる際の注意点を取り上げる。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget発 グローバルITピックアップ
TechTargetジャパンの記事の一部で生成AIを補助的に活用し、米国Informa TechTargetの記事を翻訳・編集して国内向けにお届けします。編集部による内容の確認を徹底しています。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[ファインディ株式会社] AI利用率だけでは説明できない成果 開発組織の競争力を生む「開発資本」とは? -
製品資料
[ニュータニックス・ジャパン合同会社] AI活用を成功へ導く、シンプルで費用対効果に優れたクラウド基盤とは? -
製品資料
[ニュータニックス・ジャパン合同会社] マネージドKubernetesには限界も――メリットをフル活用する新たな選択肢とは? -
技術文書・技術解説
[ニュータニックス・ジャパン合同会社] 決断の日が迫る「vSphere 8」サポート終了問題 考慮すべきリスクと選択肢は? -
製品資料
[サイバーソリューションズ株式会社] メール誤送信対策のルールが肥大化 苦しむ情シスはどうすれば救われるのか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
2
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
3
「恥を知るべきだ」 AIデータセンター反対運動を招いた事業者の秘密主義
-
4
「Wi-Fi 7」経由でWindowsが乗っ取られる? 最高権限奪取の恐怖
-
5
私も“AIエージェント開発者”に? 裾野を広げる「Agent Bricks」とは
-
6
パッチなしで「今すぐサーバを落とせ」 Kiteworks異例警告の波紋
-
7
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
-
8
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
9
なぜ「全社配布Copilot」は使われないのか? 失敗に学ぶAI定着
-
10
リモート入社時研修が労使双方に与える苦悩 大量退職を避けるには?
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
家庭用Wi-Fiルーターの業務利用は危険? 避けるべき理由と具体的な対策
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
-
5
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
6
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
7
「IT史に名を残すシステム障害」8選
-
8
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは?
-
9
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
10
マンガで学ぶXDR/MDRのメリット、中小企業のセキュリティ強化になぜ有効か?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー