「もろ刃の剣」の生成AI【後編】

生成AIの時代にやるべき「セキュリティ教育」はこれだ

企業は、生成AIがセキュリティに脅威をもたらし得る存在だということを忘れてはいけない。先回りしてリスクを防ぐために、企業はどのような行動を取ればよいのか。

公開 2024年01月16日 05時00分

[TechTarget]

印刷する連載新着通知を受け取る

　通信事業者Verizon Communicationsがデータ侵害に関する調査結果をまとめたレポート「Data Breach Investigations Report」（DBIR）の2022年版によると、2022年に同社が観測したデータ侵害4110件のうち、82％は人為的なミスによるものだった。テキストや画像などを自動生成するAI（人工知能）技術「ジェネレーティブAI」（生成AI）が出現したことで、この割合は増える可能性がある。企業にはどのような対策が求められるのか。

生成AIの時代はこのセキュリティ教育を実践すべし

併せて読みたいお薦め記事

連載：「もろ刃の剣」の生成AI

「生成AI」のリスクを防ぐ

　企業は生成AIの脅威に対処するための装備と情報を、従業員に提供する必要がある。それだけではなく、IT利用に伴って形成される文化である「サイバーカルチャー」を社内に根付かせ、従業員がフィッシングメールなどの脅威を報告しやすくする取り組みも欠かせない。今後は包括的で透明性のあるサイバーカルチャーが重要だ。

　新たな脅威や教訓を従業員に通達するだけではなく、脅威の最新動向をセキュリティ教育やトレーニングに反映することも重要だ。例えば生成AIは、文法的なミスや違和感のない口語的な文章を出力できる。「メッセージの作成者が生成AIか人か」を特定することは、トレーニングを受けていない場合は困難だ。こうした事実を踏まえて企業は、トレーニング内容を見直す他、機密情報や個人情報をやりとりする相手の身元を確認するよう従業員を指導する必要がある。

　セキュリティ対策で重要なのはシンプルさだ。セキュリティ対策の工程を簡素化したり、従業員にとってトレーニングやガイダンスを利用しやすくしたりすることが効果を生む。以下の取り組みも有効に働くと考えられる。