AIでAIを監視する「ガードレール」構築術 エージェント暴走を防ぐには：米国大学のCISOが明かす

管理外のAIエージェントが特権を悪用してデータを持ち出すリスクが急増している。アリゾナ州立大学（ASU）は、この“新次元の脅威”にどう対抗したのか。ASUのCISOが語る。

[Alissa Irei，TechTarget]

　企業のセキュリティリーダーは今のAI（人工知能）ブームをチャンスと捉え、このタイミングでセキュリティの強化に取り組むべきだ。そして、AIを使ったセキュリティの強化は、AIモデルを保護するためにも欠かせない――。そう語るのは、アリゾナ州立大学（Arizona State University、以下ASU）のCISO（最高情報セキュリティ責任者）、レスター・ゴッドシー氏だ。

　AIシステムの開発に注力しているASUは、セキュリティを強めるためにAIをどのように活用しているのか。ゴッドシー氏に具体的な取り組みを聞いた。

AIが生む「制御不能な権限」の死角と、ASUの切り札

併せて読みたいお薦め記事

AIがセキュリティにもたらす影響とは

• セキュリティ専門家としてのキャリアが開ける「AIセキュリティ専門資格」が誕生
• AIはセキュリティの「敵」か「味方」か――AIが分析　果たして結論は？

　ASUでは、データ分類や「DLP」（データ損失防止）、「IAM」（IDおよびアクセス管理）といったセキュリティのさまざまな領域でAIを活用している。ASUは研究開発のために、60モデル以上のLLM（大規模言語モデル）を用いて、高度なデータ分析を可能にするAIシステムを構築しているという。そのAIシステムの保護のためにも、AIを利用したセキュリティが不可欠だとゴッドシー氏は説明する。

　ゴッドシー氏はAIによるセキュリティの強化を検討している企業に対し、データ保護の自動化から着手することを推奨している。同氏によると、ASUではAIを利用する前にもデータ保護に取り組んでいたが、データの拡散が課題になっていた。ゴッドシー氏のチームは最近、AIを使用して非構造化データの分類を自動化するテストを実施し、高精度な出力に成功。データ分類の自動化を基に、DLPの強化に取り組んでいるという。

　ASUでは、AIを用いてセキュリティを改善している取り組みが、結果としてAIシステム向けセキュリティの強化にもつながっているとゴッドシー氏は述べる。例えばAIシステムに対し、人間ユーザー、非人間ユーザー（AIエージェントなど）を問わず、必要なユーザー以外にアクセス権を付与しない「最小権限の原則」を採用することで、不正アクセスのリスクを低減しているという。

　ゴッドシー氏によると、特にAIエージェントは企業にとって大きな脅威になり得る。AIエージェントが必要以上にさまざまなシステムへのアクセス権を持っていると、データ流出の温床になるからだ。「特にAIが自律的に複雑なタスクを実行するときには、ガードレール（セキュリティ機能）を設置し、その効果を慎重に確認する必要がある」と同氏は強調する。

　しかし一方で、AIエージェントの「暴走」を防ぐためにもAIエージェントの利用が有効だ。ゴッドシー氏によると、ASUでは他のAIエージェントの設定や動作が安全基準を満たしているかどうかを確認するために専用のAIエージェントを構築している。このAIエージェントは、他のAIエージェントが許容される行動から逸脱したことが検出されたら、人間の運用担当に警告するという。

　ゴッドシー氏は、「ASUでは今後、IT資産管理、シャドーIT（IT 部門が承認していないITツールの利用）、APIセキュリティといった領域においてもAIを活用する計画だ」と語る。