米国大学のCISOが明かす
AIでAIを監視する「ガードレール」構築術 エージェント暴走を防ぐには
管理外のAIエージェントが特権を悪用してデータを持ち出すリスクが急増している。アリゾナ州立大学(ASU)は、この“新次元の脅威”にどう対抗したのか。ASUのCISOが語る。
企業のセキュリティリーダーは今のAI(人工知能)ブームをチャンスと捉え、このタイミングでセキュリティの強化に取り組むべきだ。そして、AIを使ったセキュリティの強化は、AIモデルを保護するためにも欠かせない――。そう語るのは、アリゾナ州立大学(Arizona State University、以下ASU)のCISO(最高情報セキュリティ責任者)、レスター・ゴッドシー氏だ。
AIシステムの開発に注力しているASUは、セキュリティを強めるためにAIをどのように活用しているのか。ゴッドシー氏に具体的な取り組みを聞いた。
AIが生む「制御不能な権限」の死角と、ASUの切り札
併せて読みたいお薦め記事
AIがセキュリティにもたらす影響とは
ASUでは、データ分類や「DLP」(データ損失防止)、「IAM」(IDおよびアクセス管理)といったセキュリティのさまざまな領域でAIを活用している。ASUは研究開発のために、60モデル以上のLLM(大規模言語モデル)を用いて、高度なデータ分析を可能にするAIシステムを構築しているという。そのAIシステムの保護のためにも、AIを利用したセキュリティが不可欠だとゴッドシー氏は説明する。
ゴッドシー氏はAIによるセキュリティの強化を検討している企業に対し、データ保護の自動化から着手することを推奨している。同氏によると、ASUではAIを利用する前にもデータ保護に取り組んでいたが、データの拡散が課題になっていた。ゴッドシー氏のチームは最近、AIを使用して非構造化データの分類を自動化するテストを実施し、高精度な出力に成功。データ分類の自動化を基に、DLPの強化に取り組んでいるという。
ASUでは、AIを用いてセキュリティを改善している取り組みが、結果としてAIシステム向けセキュリティの強化にもつながっているとゴッドシー氏は述べる。例えばAIシステムに対し、人間ユーザー、非人間ユーザー(AIエージェントなど)を問わず、必要なユーザー以外にアクセス権を付与しない「最小権限の原則」を採用することで、不正アクセスのリスクを低減しているという。
ゴッドシー氏によると、特にAIエージェントは企業にとって大きな脅威になり得る。AIエージェントが必要以上にさまざまなシステムへのアクセス権を持っていると、データ流出の温床になるからだ。「特にAIが自律的に複雑なタスクを実行するときには、ガードレール(セキュリティ機能)を設置し、その効果を慎重に確認する必要がある」と同氏は強調する。
しかし一方で、AIエージェントの「暴走」を防ぐためにもAIエージェントの利用が有効だ。ゴッドシー氏によると、ASUでは他のAIエージェントの設定や動作が安全基準を満たしているかどうかを確認するために専用のAIエージェントを構築している。このAIエージェントは、他のAIエージェントが許容される行動から逸脱したことが検出されたら、人間の運用担当に警告するという。
ゴッドシー氏は、「ASUでは今後、IT資産管理、シャドーIT(IT 部門が承認していないITツールの利用)、APIセキュリティといった領域においてもAIを活用する計画だ」と語る。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
5
「Windows Server 2028」、初のIntune対応をプレビュー PCとサーバを一元管理へ
-
6
「OpenJDK」の重大な脆弱性をAIが1時間で発見 “防御の遅れ”をどう防ぐ?
-
7
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
8
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
9
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
10
なぜ「ChatGPT」連携の拡張機能が情報漏えいの入り口になるのか?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー