生成AIの時代にやるべき「セキュリティ教育」はこれだ：「もろ刃の剣」の生成AI【後編】

企業は、生成AIがセキュリティに脅威をもたらし得る存在だということを忘れてはいけない。先回りしてリスクを防ぐために、企業はどのような行動を取ればよいのか。

[Luke Witts，TechTarget]

　通信事業者Verizon Communicationsがデータ侵害に関する調査結果をまとめたレポート「Data Breach Investigations Report」（DBIR）の2022年版によると、2022年に同社が観測したデータ侵害4110件のうち、82％は人為的なミスによるものだった。テキストや画像などを自動生成するAI（人工知能）技術「ジェネレーティブAI」（生成AI）が出現したことで、この割合は増える可能性がある。企業にはどのような対策が求められるのか。

生成AIの時代はこのセキュリティ教育を実践すべし

併せて読みたいお薦め記事

連載：「もろ刃の剣」の生成AI

• 前編：「生成AIなんて要らない」派の企業の言い分
• 中編：「生成AIでマルウェア」は作れるか？　攻撃者が目を付ける“悪用手段”のまとめ

「生成AI」のリスクを防ぐ

• 生成AIの“危ない使い方”を防ぐ「学校向けサポートパッケージ」の中身
• 「ChatGPTには危険もある」問題でまず考慮すべき基本的なリスク

　企業は生成AIの脅威に対処するための装備と情報を、従業員に提供する必要がある。それだけではなく、IT利用に伴って形成される文化である「サイバーカルチャー」を社内に根付かせ、従業員がフィッシングメールなどの脅威を報告しやすくする取り組みも欠かせない。今後は包括的で透明性のあるサイバーカルチャーが重要だ。

　新たな脅威や教訓を従業員に通達するだけではなく、脅威の最新動向をセキュリティ教育やトレーニングに反映することも重要だ。例えば生成AIは、文法的なミスや違和感のない口語的な文章を出力できる。「メッセージの作成者が生成AIか人か」を特定することは、トレーニングを受けていない場合は困難だ。こうした事実を踏まえて企業は、トレーニング内容を見直す他、機密情報や個人情報をやりとりする相手の身元を確認するよう従業員を指導する必要がある。

　セキュリティ対策で重要なのはシンプルさだ。セキュリティ対策の工程を簡素化したり、従業員にとってトレーニングやガイダンスを利用しやすくしたりすることが効果を生む。以下の取り組みも有効に働くと考えられる。

• 従業員がリスクのある行動を取った際、その従業員のデバイスに自動で警告を送信する機能の導入
• 「結果的に何もなくても、報告して安心した方がよい」という企業文化を支えるポリシーの導入

　企業は生成AIの華やかな面に目を向けがちだが、セキュリティやプライバシーにおける生成AIのリスクにも目を向ける必要がある。AI技術を導入するメリットとリスクのバランスを取り、人による監視とガイドラインを重視することが重要だ。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。