生成AI用セキュリティポリシーの作り方【前編】
「生成AI」活用で見落としがちな盲点とは？ 今すぐ始めるセキュリティ対策
従業員による生成AIの無秩序な利用が、企業の情報漏えいや知的財産権侵害を引き起こす恐れがある。生成AIに関するセキュリティポリシーを確立し、適切な管理体制を構築することは急務だ。どこから手を付けるべきか。
テキストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）が急速な進化を遂げる今、この技術がもたらす「善」だけではなく「悪」を防ぐことにも関心が集まっている。これはサイバーセキュリティにとって重要な関心事であり、企業は生成AIが原因となるセキュリティ侵害の対策に追われるようになった。
対策として、生成AIを含むサイバーセキュリティポリシーを確立することが有効だ。では、生成AIがもたらすセキュリティ問題にはどのようなものがあるのか。それらに対処するために、生成AIのセキュリティポリシーに盛り込むべき要素とは。
放置しているとまずい生成AIのセキュリティリスク
サイバー攻撃者は生成AIを駆使し、ディープフェイク（本物の人物を偽装する偽情報）をはじめ巧妙なソーシャルエンジニアリング攻撃（人の心理的な隙を狙う攻撃）やフィッシング攻撃を仕掛けてくる。そうした生成AI関連のリスクに対して適切な対処ができていない企業は、データ漏えいや不正アクセス、ランサムウェア（身代金要求型マルウェア）などのマルウェア攻撃といった危険にさらされかねない。大規模言語モデル（LLM）から意図しない回答を引き出す「プロンプトインジェクション攻撃」や、攻撃者がLLMの教師データを改ざん・破損させる「データポイズニング攻撃」も懸念材料だ。
従業員による機密データの暴露や許可されていないAIツールの使用（シャドーAI）、生成AIの脆弱（ぜいじゃく）性、コンプライアンス義務違反など、生成AIに関連する課題にも注意しなければならない。
AI関連規格とフレームワーク
企業が安全な生成AIを開発・導入する上で、セキュリティ規格やフレームワークは重要な役割を果たす。国際標準化機構（International Organization for Standardization）が定める以下の規格は、AI技術のリスクを特定、評価するために有用だ。
- ISO/IEC 22989:2022
- AI分野の概念と用語を定義する規格。
- ISO/IEC 23053:2022
- 機械学習（ML）を用いたAIシステムを開発するためのフレームワーク（設計、手順）を確立する規格。
- ISO/IEC 23984:2023
- AI技術のリスク管理に関する指針を示す規格。
- ISO/IEC 42001:2023
- AI技術の管理システムを確立し、リスクを組織的に管理するための要件を規定する規格。
米国立標準技術研究所（NIST）は、安全で信頼できるAI技術を開発・導入する企業に向けて、AI技術のリスク管理フレームワーク「Artificial Intelligence Risk Management Framework」（AI RMF）を発表した。その他にもさまざまな組織が、企業のAIシステム構築・展開を支援することを目的とした、リスクとサイバーセキュリティ脅威に対処するためのフレームワークを公開している。
AIシステムを開発する際、特にサイバーセキュリティに関する懸念がある場合は、上記の文書を参照するとよい。これらの文書や推奨行動は、企業が生成AIセキュリティポリシーに組み込むべき管理策や、AI技術に起因するサイバーセキュリティ脅威に対処するための手順として活用できる。
次回は、生成AI用セキュリティポリシーを策定する際に検討すべき項目を、領域ごとに分けて解説する。
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[オーティファイ株式会社] AIでコーディングは加速したのにテストはそのまま？ いまQAに必要な進化とは -
事例
[オーティファイ株式会社] QAで開発サイクルを遅延させない 8社の事例に学ぶ「テスト工程」の課題解決策 -
製品資料
[株式会社ガラパゴス] 「AIっぽい広告」の山に埋もれさせない AIマーケで着実に成果をだす秘訣とは？ -
製品資料
[株式会社ガラパゴス] 「広告投資」調査レポート2026：勝ち組企業は何に投資しているのか？ -
製品資料
[株式会社Helpfeel] 「問い合わせの渋滞」を解消、情シスの負担を軽減する“次世代型AI”活用方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
2
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
3
9割が頓挫する「AI内製化」 差がついたのはツールより設計力
-
4
「データストレージの活用方法」に関するアンケート
-
5
「IBM i（AS/400）はクローズドなシステム」という誤解 DXに寄与する一歩
-
6
「AI活用を前提とした業務PCへの移行」に関するアンケート
-
7
「企業内サーバ環境の利用実態」に関するアンケート
-
8
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには？
-
9
「ネットワークインフラの現状と課題」に関するアンケート
-
10
「有線LAN環境」に関するアンケート
ホワイトペーパーランキング PR
-
1
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
2
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
3
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
4
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
5
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
9
少額減価償却資産が40万円未満へ拡大、令和8年度税制改正で押さえるべき変更点
-
10
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー