「もろ刃の剣」の生成AI【後編】
生成AIの時代にやるべき「セキュリティ教育」はこれだ
企業は、生成AIがセキュリティに脅威をもたらし得る存在だということを忘れてはいけない。先回りしてリスクを防ぐために、企業はどのような行動を取ればよいのか。
通信事業者Verizon Communicationsがデータ侵害に関する調査結果をまとめたレポート「Data Breach Investigations Report」（DBIR）の2022年版によると、2022年に同社が観測したデータ侵害4110件のうち、82％は人為的なミスによるものだった。テキストや画像などを自動生成するAI（人工知能）技術「ジェネレーティブAI」（生成AI）が出現したことで、この割合は増える可能性がある。企業にはどのような対策が求められるのか。
生成AIの時代はこのセキュリティ教育を実践すべし
併せて読みたいお薦め記事
連載：「もろ刃の剣」の生成AI
「生成AI」のリスクを防ぐ
企業は生成AIの脅威に対処するための装備と情報を、従業員に提供する必要がある。それだけではなく、IT利用に伴って形成される文化である「サイバーカルチャー」を社内に根付かせ、従業員がフィッシングメールなどの脅威を報告しやすくする取り組みも欠かせない。今後は包括的で透明性のあるサイバーカルチャーが重要だ。
新たな脅威や教訓を従業員に通達するだけではなく、脅威の最新動向をセキュリティ教育やトレーニングに反映することも重要だ。例えば生成AIは、文法的なミスや違和感のない口語的な文章を出力できる。「メッセージの作成者が生成AIか人か」を特定することは、トレーニングを受けていない場合は困難だ。こうした事実を踏まえて企業は、トレーニング内容を見直す他、機密情報や個人情報をやりとりする相手の身元を確認するよう従業員を指導する必要がある。
セキュリティ対策で重要なのはシンプルさだ。セキュリティ対策の工程を簡素化したり、従業員にとってトレーニングやガイダンスを利用しやすくしたりすることが効果を生む。以下の取り組みも有効に働くと考えられる。
- 従業員がリスクのある行動を取った際、その従業員のデバイスに自動で警告を送信する機能の導入
- 「結果的に何もなくても、報告して安心した方がよい」という企業文化を支えるポリシーの導入
企業は生成AIの華やかな面に目を向けがちだが、セキュリティやプライバシーにおける生成AIのリスクにも目を向ける必要がある。AI技術を導入するメリットとリスクのバランスを取り、人による監視とガイドラインを重視することが重要だ。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社kickflow] 2社の事例に学ぶワークフロー改革：属人化解消や年数万件の申請書類削減のコツ -
製品資料
[NTTPCコミュニケーションズ株式会社] 「回線速度不足」だけが原因ではない？ Web会議の遅延を解決する方法とは -
製品資料
[東京エレクトロン デバイス株式会社] 工場の可用性向上に重要な「7つの領域」と対策 OTセキュリティ強化の基礎知識 -
製品資料
[リコージャパン株式会社] 問い合わせ対応で本来の業務が進まない、総務や情シスの負担をどう減らす？ -
製品資料
[リコージャパン株式会社] 自社データから高精度な回答を生成、簡単に生成AIチャットボットを構築する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
全社標準Copilotに絶望？ MS Copilotで問い合わせ6割減できた企業は何が違った
-
2
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
3
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
4
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
5
ITエンジニア1265人調査 生成AIを使い込むほど「人の確認」が重い理由
-
6
【基本情報技術者試験】「デュプレックスシステム」と「デュアルシステム」の違いは？
-
7
頻繁な承認が生む“確認疲れ” 「MCP」を安全に使う権限管理とは
-
8
「Microsoft一択」で本当にいいのか 知らぬ間にライセンス費用が膨らむ真相
-
9
APIキー奪取から3時間でクラウド掌握 Anthropicが暴いた「バイブハッキング」の現実的な防御策
-
10
「VMware旧ライセンス」ユーザーに届いた“最後通告”が波紋を呼ぶ
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
3
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
8
AI時代に成功するための「ナレッジマネジメント」ベストプラクティス
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー