AI規制の乱立が企業を直撃 情シスに求められる「AIレジリエンス」の作り方：Gartnerのバイスプレジデントアナリストに聞く
企業の情報システム部門やCISOは各国で異なるAI規制への対応を迫られている。Gartnerのバイスプレジデントアナリストは、各規制に場当たり的に対応するのではなく、AIレジリエンスの確立が重要だと指摘する。
生成AIやAIエージェントの導入が加速する中、企業の情報システム部門（情シス）やCISO（最高情報セキュリティ責任者）は新たな課題に直面している。それは、国や地域ごとに異なるAI規制への対応だ。
欧州では包括的なAI規制が施行され、中国では社会的な統制を重視した独自ルールが整備されている。一方、米国では連邦レベルで統一された規制が存在せず、州ごとに異なる規制が乱立している状況だ。
こうした環境の中で企業は、AI活用による競争力向上を目指しながらも、規制違反のリスクを回避しなければならない。情シス担当者はどのような対策を講じるべきなのか。Gartnerでバイスプレジデントアナリストを務めるバーナード・ウー氏が、「AI規制への立ち向かい方とレジリエンスの高め方」を紹介する。
乱立するAI規制への対応、どうすれば
併せて読みたいお薦め記事
サイバーレジリエンスの関連記事
AI活用の推進と規制対応を両立させることは、情シスやCISOにとって新たな経営課題となりつつある。その背景にあるのが、世界各国で進むAI規制の「断片化」だ。
欧州連合（EU）では「AI法」（Artificial Intelligence Act）によってリスクベースの包括的な規制が整備され、違反企業には高額な制裁金が科される。一方、中国はAI技術の発展を促進しながらも、社会的な影響や情報統制を重視した独自の法制度を整備している。
米国ではさらに状況が複雑だ。連邦レベルで統一されたAI規制が存在せず、各州が独自のルールを制定している。その結果、企業は共通する要求だけでなく、州ごとに相反する要求への対応も迫られる「パッチワーク状態」に置かれている。
問題は、こうした規制環境の変化に企業の運用体制が追い付いていないことだ。生成AIやAIエージェントの普及に伴い、多くのSaaSベンダーやソフトウェアベンダーが製品へAI機能を次々と組み込んでいる。企業側は、各機能がどこで利用され、どのようなデータにアクセスしているのかを十分に把握できなくなりつつある。
セキュリティ担当者は、従来のセキュリティ対策に加えてAIリスクの管理も担わなければならない。しかし、限られた人員や予算の中で全てのAI利用状況を可視化することは容易ではない。
その結果、「どのAI機能が自社環境で利用されているのか分からない」「適用範囲を評価できない」といった状況が生まれ、法規制違反のリスクが高まっている。
さらに、AIツールの数と導入スピードは今後も加速すると予想される。適切なセキュリティ統制を定義できなければ、企業は規制リスクを拡大させるだけでなく、AI導入によって得た競争優位性そのものを失いかねない。
規制のノイズに惑わされない「戦略的アプローチ」
こうした状況で陥りやすいのが、新たに登場する規制に対して個別に対応し続けることだ。しかし、この方法は人的リソースや予算を過剰に消費する「わな」と言える。
AI規制は今後も増加し続ける可能性が高い。新たな法規制が登場するたびに対応策を追加していては、運用負荷が増大し、結果としてガバナンスそのものが機能しなくなる恐れがある。
そのため、情シスやCISOには、規制の文言そのものではなく、その背後にある共通原則を理解する姿勢が求められる。
自社に本当に適用される要件を見極める
そこでまず重要なのは、AI規制の一覧や法規制ニュースを追い掛けるだけで満足しないことだ。企業は法務やコンプライアンス部門と連携し、「その規制が本当に自社へ適用されるのか」「どのシステムや業務に影響するのか」を見極める必要がある。その上で、規制対応をリスクベースで整理することが重要だ。
リスクを「2つ」に分類してベースラインを築く
AIに関するセキュリティリスクは、大きく「人への危害」と「財産への危害」の2つに分類できる。CISOやセキュリティ担当者はリスクをこの2つに大別して整理し、規制対応をリスクベースで整理することが重要だ。
- 人への危害
- バイアスの発生や、個人情報の漏えいといったプライバシー侵害
- 財産への危害
- データの完全性の損失、知的財産の窃取、システム停止による業務継続への影響
こうした分類を基にリスク評価を実施することで、個別規制への対応ではなく、将来の規制変更にも耐えられる共通の防御基盤を構築できる。
AI時代のセキュリティ対策は何が変わるのか
従来のセキュリティ対策は、データ侵害やデータ漏えい、マルウェア、不正アクセスといった機密性への脅威を中心に設計されてきた。
しかし生成AIやAIエージェントの普及によって、企業はこれまでとは異なる種類の脅威にも対処しなければならなくなっている。
代表例が、AIのハルシネーション（もっともらしい誤情報の生成）や不正確な出力、学習データや回答内容に含まれるバイアスだ。
これらはシステムを直接破壊するわけではない。しかし、経営判断や業務プロセスに誤った情報を持ち込み、企業データの完全性や信頼性を損なう可能性がある。
そのため、AI時代のセキュリティでは「データを守る」だけでなく、「データの正確性や信頼性を守る」という視点が欠かせない。
具体的には、AIへ入力されるデータの透明性や完全性を確保するとともに、ID・アクセス管理（IAM）の対象を人間だけでなくAIエージェントへ拡張する必要がある。
AIエージェントが業務システムや機密情報へアクセスするケースが増える中、人間の従業員と同様に、AIエージェントにも認証や認可の仕組みを適用しなければならない。
誰がAIを利用したのかだけでなく、「どのAIエージェントが何にアクセスしたのか」を追跡できる仕組みが、今後のセキュリティ統制の重要な要素になる。
ディープフェイク時代に求められるAIレジリエンス
AI時代のセキュリティ対策では、攻撃を防ぐことだけでなく、攻撃を受けた後にどのように回復するかも重要になる。
近年はディープフェイク技術を悪用したなりすまし攻撃が急増している。音声や映像を偽装し、従業員や経営層になりすまして金銭や機密情報をだまし取る手法は、従来のソーシャルエンジニアリング攻撃よりも見抜くことが難しい。
多くの組織が少なくとも1回はディープフェイク攻撃を経験したと回答している調査結果もある。
そのため企業には、AIシステムの実行環境を保護するための投資だけでなく、AI関連インシデントを想定した机上演習（テーブルトップ演習）や事業継続計画の整備が求められる。
さらに重要なのが、インシデント発生時にシステムを迅速に隔離し、復旧し、その経験を次の対策に生かす回復力だ。
AI規制が今後も変化し続ける中で、企業が目指すべきは個別規制への場当たり的な対応ではない。変化する脅威や規制に適応し続ける「AIレジリエンス」を備えた組織づくりこそが、AI活用とコンプライアンスを両立させる鍵になる。
Copyright © ITmedia, Inc. All Rights Reserved.