「シャドーAI」のリスクと対策【前編】
従業員の無断利用が招く「シャドーAI」で発生し得る“とんでもない”4つのリスクとは
業務に欠かせなくなりつつある生成AIツールだが、従業員が許可なしに利用する場合、企業に重大なリスクをもたらす恐れがある。損失を防ぐために知っておきたい4つのリスクとは何か。
人工知能(AI)ベンダーOpenAIの「ChatGPT」やMicrosoftの「Microsoft Copilot」、Googleの「Gemini」など、画像やテキストを自動生成する「生成AI」ツールは、ビジネスの至るところで活躍している。これらのツールは便利な一方で、従業員がIT部門の許可なしに使う「シャドーAI」は、企業にさまざまなリスクをもたらす恐れがある。シャドーAIがはらむ“4つのリスク”を考える。
そもそもなぜシャドーAIは生まれるのか
そもそもシャドーAIはなぜ発生しやすいと考えられるのか。理由は主に2つある。1つ目は、生成AIツールがWebサイトやアプリケーションとして一般ユーザーにとって手に入れやすいことだ。近年は生成AI機能を組み込んだデバイスやアプリケーションも登場し、自分から入手しなくても生成AIを利用できるようになっている。2つ目は、「企業が業務の非効率をなかなか解決しようとしない」と従業員が感じていることだ。その場合、従業員が“勝手に”生成AIツールを用いて、自ら業務の効率化に取り組む可能性がある。
企業が生成AIツールの利用に関するルールを十分に定めず、IT部門の監視が不十分な場合、シャドーITの温床になりかねない。セキュリティベンダーCybSafeが2024年3~4月に約7000人の労働者を対象として実施した調査では、雇用者の許可なく生成AIツールに機密情報を入力していると答えた回答者は38%だった。
シャドーAIは情報漏えい以外にも、コンプライアンス(法令順守)違反やサービス品質低下など、さまざまなリスクをもたらす可能性がある。CybSafeの調査では、回答者の52%が「安全なAI技術の利用に関する研修を一度も受けたことがない」と答えた。企業は生成AIツールの利用拡大を見込んで、従業員向けトレーニングといったシャドーAI対策をいち早く講じなければならない。
シャドーAIがもたらす4つのリスク
シャドーAIは、以下の4つのリスクを企業にもたらす可能性がある。どのようなものか、詳しく見てみよう。
リスク1.機能上のリスク
まず、生成AIツールそのものによるリスクがある。生成AIツールが、誤った設定や不具合によって適切に動作しない場合、出力される情報の精度が低下し、誤解を招く回答を出す恐れがある。生成AIツールの基になっているAIモデルの学習した内容が、時間とともに現実とずれてしまい、判断精度が低下する現象も発生し得る。その場合、古くて誤った結果を出力しかねない。
リスク2.業務上のリスク
生成AIツールの誤った利用によって、サイバー攻撃を受けるリスクが増えたり、業務や財務上の判断を誤ったりする可能性がある。エンドユーザーが医療情報やビジネス戦略に関するデータを生成AIツールに入力すると、AIモデルはその情報を「機密」とは認識せず、情報が第三者に漏えいするといった具合だ。機密データの流出は、法的リスクはもちろん、顧客の信頼や競争力を失う結果にもつながり得る。
リスク3.コンプライアンスのリスク
シャドーAIは、コンプライアンス違反につながる恐れがある。これによって、罰金や訴訟リスクが発生する場合もあるので注意が必要だ。シャドーAIで従業員が作成したコンテンツが著作権を侵害するケースも存在する。企業は生成AIに関する法律や規制を詳細に把握し、コンプライアンスを守るための対策が欠かせない。
リスク4.リソースのリスク
人材や資金といったリソースに、シャドーAIは損害を与えることがある点にも気を付けなければならない。生成AIツールをうまく利用すれば、業務の効率化やコスト削減が期待できる。しかしシャドーAIだと、かえって逆効果になってしまうリスクがある。各自がばらばらに生成AIを使うことで情報が十分に共有されず、作業の重複が生じれば、業務効率を低下させることになるためだ。シャドーAIによって機密情報が流出したり、コンプライアンス違反があったりしたら、金銭的な損失も生じかねない。
中編は、シャドーAIの対策を紹介する。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget発 グローバルITピックアップ
TechTargetジャパンの記事の一部で生成AIを補助的に活用し、米国Informa TechTargetの記事を翻訳・編集して国内向けにお届けします。編集部による内容の確認を徹底しています。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
5
なぜ「ChatGPT」連携の拡張機能が情報漏えいの入り口になるのか?
-
6
「Windows Server 2028」、初のIntune対応をプレビュー PCとサーバを一元管理へ
-
7
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
8
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
9
「企業のサーバ環境と調達・価格動向」に関するアンケート
-
10
NVIDIAが日本語の合成データを公開 社内AI開発の「データ枯渇」を突破
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー