米国大学のCISOが明かす
AIでAIを監視する「ガードレール」構築術 エージェント暴走を防ぐには
管理外のAIエージェントが特権を悪用してデータを持ち出すリスクが急増している。アリゾナ州立大学(ASU)は、この“新次元の脅威”にどう対抗したのか。ASUのCISOが語る。
企業のセキュリティリーダーは今のAI(人工知能)ブームをチャンスと捉え、このタイミングでセキュリティの強化に取り組むべきだ。そして、AIを使ったセキュリティの強化は、AIモデルを保護するためにも欠かせない――。そう語るのは、アリゾナ州立大学(Arizona State University、以下ASU)のCISO(最高情報セキュリティ責任者)、レスター・ゴッドシー氏だ。
AIシステムの開発に注力しているASUは、セキュリティを強めるためにAIをどのように活用しているのか。ゴッドシー氏に具体的な取り組みを聞いた。
AIが生む「制御不能な権限」の死角と、ASUの切り札
併せて読みたいお薦め記事
AIがセキュリティにもたらす影響とは
ASUでは、データ分類や「DLP」(データ損失防止)、「IAM」(IDおよびアクセス管理)といったセキュリティのさまざまな領域でAIを活用している。ASUは研究開発のために、60モデル以上のLLM(大規模言語モデル)を用いて、高度なデータ分析を可能にするAIシステムを構築しているという。そのAIシステムの保護のためにも、AIを利用したセキュリティが不可欠だとゴッドシー氏は説明する。
ゴッドシー氏はAIによるセキュリティの強化を検討している企業に対し、データ保護の自動化から着手することを推奨している。同氏によると、ASUではAIを利用する前にもデータ保護に取り組んでいたが、データの拡散が課題になっていた。ゴッドシー氏のチームは最近、AIを使用して非構造化データの分類を自動化するテストを実施し、高精度な出力に成功。データ分類の自動化を基に、DLPの強化に取り組んでいるという。
ASUでは、AIを用いてセキュリティを改善している取り組みが、結果としてAIシステム向けセキュリティの強化にもつながっているとゴッドシー氏は述べる。例えばAIシステムに対し、人間ユーザー、非人間ユーザー(AIエージェントなど)を問わず、必要なユーザー以外にアクセス権を付与しない「最小権限の原則」を採用することで、不正アクセスのリスクを低減しているという。
ゴッドシー氏によると、特にAIエージェントは企業にとって大きな脅威になり得る。AIエージェントが必要以上にさまざまなシステムへのアクセス権を持っていると、データ流出の温床になるからだ。「特にAIが自律的に複雑なタスクを実行するときには、ガードレール(セキュリティ機能)を設置し、その効果を慎重に確認する必要がある」と同氏は強調する。
しかし一方で、AIエージェントの「暴走」を防ぐためにもAIエージェントの利用が有効だ。ゴッドシー氏によると、ASUでは他のAIエージェントの設定や動作が安全基準を満たしているかどうかを確認するために専用のAIエージェントを構築している。このAIエージェントは、他のAIエージェントが許容される行動から逸脱したことが検出されたら、人間の運用担当に警告するという。
ゴッドシー氏は、「ASUでは今後、IT資産管理、シャドーIT(IT 部門が承認していないITツールの利用)、APIセキュリティといった領域においてもAIを活用する計画だ」と語る。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[ファインディ株式会社] AI利用率だけでは説明できない成果 開発組織の競争力を生む「開発資本」とは? -
製品資料
[ニュータニックス・ジャパン合同会社] AI活用を成功へ導く、シンプルで費用対効果に優れたクラウド基盤とは? -
製品資料
[ニュータニックス・ジャパン合同会社] マネージドKubernetesには限界も――メリットをフル活用する新たな選択肢とは? -
技術文書・技術解説
[ニュータニックス・ジャパン合同会社] 決断の日が迫る「vSphere 8」サポート終了問題 考慮すべきリスクと選択肢は? -
製品資料
[サイバーソリューションズ株式会社] メール誤送信対策のルールが肥大化 苦しむ情シスはどうすれば救われるのか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
2
「Wi-Fi 7」経由でWindowsが乗っ取られる? 最高権限奪取の恐怖
-
3
kintoneで実践 製造業のための「見積もり管理」改善のヒント
-
4
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
-
5
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
6
祝10周年! 創業者も予想できなかったRaspberry Pi活用例
-
7
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
8
鉄道とIT、老舗企業はスマホアプリでいかに息を吹き返したか
-
9
事業計画と製販計画の連携力を高める需要管理システム「Oracle Demantra」
-
10
「VMware旧ライセンス」ユーザーに届いた“最後通告”が波紋を呼ぶ
ホワイトペーパーランキング PR
-
1
家庭用Wi-Fiルーターの業務利用は危険? 避けるべき理由と具体的な対策
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
-
4
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
5
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
6
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
7
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは?
-
8
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
9
「IT史に名を残すシステム障害」8選
-
10
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー