生成AIの時代にやるべき「セキュリティ教育」はこれだ「もろ刃の剣」の生成AI【後編】

企業は、生成AIがセキュリティに脅威をもたらし得る存在だということを忘れてはいけない。先回りしてリスクを防ぐために、企業はどのような行動を取ればよいのか。

2024年01月16日 05時00分 公開
[Luke WittsTechTarget]

 通信事業者Verizon Communicationsがデータ侵害に関する調査結果をまとめたレポート「Data Breach Investigations Report」(DBIR)の2022年版によると、2022年に同社が観測したデータ侵害4110件のうち、82%は人為的なミスによるものだった。テキストや画像などを自動生成するAI(人工知能)技術「ジェネレーティブAI」(生成AI)が出現したことで、この割合は増える可能性がある。企業にはどのような対策が求められるのか。

生成AIの時代はこのセキュリティ教育を実践すべし

 企業は生成AIの脅威に対処するための装備と情報を、従業員に提供する必要がある。それだけではなく、IT利用に伴って形成される文化である「サイバーカルチャー」を社内に根付かせ、従業員がフィッシングメールなどの脅威を報告しやすくする取り組みも欠かせない。今後は包括的で透明性のあるサイバーカルチャーが重要だ。

 新たな脅威や教訓を従業員に通達するだけではなく、脅威の最新動向をセキュリティ教育やトレーニングに反映することも重要だ。例えば生成AIは、文法的なミスや違和感のない口語的な文章を出力できる。「メッセージの作成者が生成AIか人か」を特定することは、トレーニングを受けていない場合は困難だ。こうした事実を踏まえて企業は、トレーニング内容を見直す他、機密情報や個人情報をやりとりする相手の身元を確認するよう従業員を指導する必要がある。

 セキュリティ対策で重要なのはシンプルさだ。セキュリティ対策の工程を簡素化したり、従業員にとってトレーニングやガイダンスを利用しやすくしたりすることが効果を生む。以下の取り組みも有効に働くと考えられる。

  • 従業員がリスクのある行動を取った際、その従業員のデバイスに自動で警告を送信する機能の導入
  • 「結果的に何もなくても、報告して安心した方がよい」という企業文化を支えるポリシーの導入

 企業は生成AIの華やかな面に目を向けがちだが、セキュリティやプライバシーにおける生成AIのリスクにも目を向ける必要がある。AI技術を導入するメリットとリスクのバランスを取り、人による監視とガイドラインを重視することが重要だ。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

髫エ�ス�ス�ー鬨セ�ケ�つ€驛「譎擾スク蜴・�。驛「�ァ�ス�、驛「譎冗樟�ス�ス驛「譎「�ス�シ驛「譏懶スサ�」�ス�ス

製品レビュー サイオステクノロジー株式会社

マンガで分かる:クラウドシステムの障害対策でユーザーが考慮すべきポイント

ダウンタイムが許されない基幹系システムやデータベースをクラウドに展開している場合、システムの障害対策をベンダー任せにすることは危険だ。本資料では、その理由を解説するとともに、クラウドの障害対策を実施する方法を紹介する。

製品資料 Absolute Software株式会社

サイバーレジリエンスがなぜ今重要? 調査で知るエンドポイントの3大リスク

エンドポイントがサイバー攻撃の対象となるケースも増えている今、企業にはどのような対策が必要なのか。2024年に実施された調査の結果を基に、3つの重大なリスク要因と、その解決策としてサイバーレジリエンスが重要な理由を解説する。

製品資料 東京エレクトロン デバイス株式会社

クラウドセキュリティを強化する注目手法、WAAPとCNAPPを組み合わせるメリット

マルチクラウド化が進み、アプリケーションとインフラを効率的に保護する手法が求められる昨今。そこで注目したいのが、WAAP(Web Application and API Protection)とCNAPP(Cloud Native Application Protection Platform)の活用だ。

製品資料 LRM株式会社

標的型攻撃が増加傾向、“攻撃を受けても情報が漏れない”仕組みづくりが重要に

標的型攻撃は主にメールで行われ、企業側が気を付けていても防ぎきれないケースがある。そのため、対策には検知・防御だけでなく、“攻撃を受けても情報が漏れない”仕組み作りが重要であり、各従業員のITリテラシー向上が不可欠だ。

製品資料 LRM株式会社

従業員のセキュリティ教育「ToDoリスト」、実施に当たり注意すべきことは?

巧妙化を続けるサイバー攻撃から企業の資産を保護するには、従業員のセキュリティリテラシーを高める教育が不可欠だ。教育を実施するに当たって重要となるポイントを「ToDo」リストとしてまとめた。

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news025.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。