「もろ刃の剣」の生成AI【後編】

生成AIの時代にやるべき「セキュリティ教育」はこれだ

企業は、生成AIがセキュリティに脅威をもたらし得る存在だということを忘れてはいけない。先回りしてリスクを防ぐために、企業はどのような行動を取ればよいのか。

公開 2024年01月16日 05時00分

[TechTarget]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　通信事業者Verizon Communicationsがデータ侵害に関する調査結果をまとめたレポート「Data Breach Investigations Report」（DBIR）の2022年版によると、2022年に同社が観測したデータ侵害4110件のうち、82％は人為的なミスによるものだった。テキストや画像などを自動生成するAI（人工知能）技術「ジェネレーティブAI」（生成AI）が出現したことで、この割合は増える可能性がある。企業にはどのような対策が求められるのか。

生成AIの時代はこのセキュリティ教育を実践すべし

併せて読みたいお薦め記事

連載：「もろ刃の剣」の生成AI

「生成AI」のリスクを防ぐ

　企業は生成AIの脅威に対処するための装備と情報を、従業員に提供する必要がある。それだけではなく、IT利用に伴って形成される文化である「サイバーカルチャー」を社内に根付かせ、従業員がフィッシングメールなどの脅威を報告しやすくする取り組みも欠かせない。今後は包括的で透明性のあるサイバーカルチャーが重要だ。

　新たな脅威や教訓を従業員に通達するだけではなく、脅威の最新動向をセキュリティ教育やトレーニングに反映することも重要だ。例えば生成AIは、文法的なミスや違和感のない口語的な文章を出力できる。「メッセージの作成者が生成AIか人か」を特定することは、トレーニングを受けていない場合は困難だ。こうした事実を踏まえて企業は、トレーニング内容を見直す他、機密情報や個人情報をやりとりする相手の身元を確認するよう従業員を指導する必要がある。

　セキュリティ対策で重要なのはシンプルさだ。セキュリティ対策の工程を簡素化したり、従業員にとってトレーニングやガイダンスを利用しやすくしたりすることが効果を生む。以下の取り組みも有効に働くと考えられる。

従業員がリスクのある行動を取った際、その従業員のデバイスに自動で警告を送信する機能の導入
「結果的に何もなくても、報告して安心した方がよい」という企業文化を支えるポリシーの導入

　企業は生成AIの華やかな面に目を向けがちだが、セキュリティやプライバシーにおける生成AIのリスクにも目を向ける必要がある。AI技術を導入するメリットとリスクのバランスを取り、人による監視とガイドラインを重視することが重要だ。

Computer Weekly発世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

印刷する

Computer Weekly発　世界に学ぶIT導入・活用術

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

Luke Witts

生成AIの時代にやるべき「セキュリティ教育」はこれだ

生成AIの時代はこのセキュリティ教育を実践すべし

併せて読みたいお薦め記事

連載：「もろ刃の剣」の生成AI

「生成AI」のリスクを防ぐ

Computer Weekly発世界に学ぶIT導入・活用術

Computer Weekly発　世界に学ぶIT導入・活用術

この記事の著者

関連記事

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

生成AIの時代にやるべき「セキュリティ教育」はこれだ

生成AIの時代はこのセキュリティ教育を実践すべし

併せて読みたいお薦め記事

連載：「もろ刃の剣」の生成AI

「生成AI」のリスクを防ぐ

Computer Weekly発 世界に学ぶIT導入・活用術

Computer Weekly発 世界に学ぶIT導入・活用術

この記事の著者

関連記事

生成AIの“危ない使い方”を防ぐ「学校向けサポートパッケージ」の中身

「ChatGPTには危険もある」問題でまず考慮すべき基本的なリスク

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

Computer Weekly発世界に学ぶIT導入・活用術

Computer Weekly発　世界に学ぶIT導入・活用術