予算や人手不足でも諦めない「AIリスク管理」 2大フレームワークの活用法は？：AIリスク対処の現実解

AI技術が進化し、さまざまなAIツールの活用が広がる中、組織のリスク管理が課題となっている。その鍵となるNISTの「NIST CSF」と「AI RMF」を効果的に組み合わせるにはどうすればよいのか。

[Matthew Smith，TechTarget]

　業務における人工知能（AI）技術の活用が広がる中、組織でのAI技術に関するリスク管理が急務となっている。この課題に有用なのが、米国立標準技術研究所（NIST）が公開しているフレームワークだ。その中でも、AIシステムを標的とするサイバーセキュリティリスクに焦点を当てたフレームワーク「AI RMF」（Artificial Intelligence Risk Management Framework）と、組織のサイバーセキュリティ対策に関するフレームワーク「NIST CFS」（NIST Cybersecurity Framework）は、AI技術活用のリスク管理に力を発揮する。本稿は、それぞれの特徴や使い方、2つのフレームワークを効果的に併用する方法を紹介する。

NIST CSFとは

併せて読みたいお薦め記事

AI時代のセキュリティ対策

• NISTの「サイバーレジリエンス」14カ条に書かれていること
• 「生成AI」活用で見落としがちな盲点とは？　今すぐ始めるセキュリティ対策

　NIST CSFは、元米大統領バラク・オバマ氏が発布した「Executive Order 13636: Improving Critical Infrastructure Cybersecurity」（重要インフラのサイバーセキュリティ強化に関する大統領令第13636号）を受けて2013年2月にNISTが制定した。サイバー攻撃の対策に重点を置いており、あらゆる種類や規模の組織に適用可能だ。2014年に公開されたバージョン1.0は、組織のリスク管理プロセスを以下の5つに分類している。

1. 特定（Identify）
2. 防御（Protect）
3. 検知（Detect）
4. 対応（Respond）
5. 復旧（Recover）

　2024年に公開されたNIST CSFバージョン2.0では、6番目の機能として「統治」（Govern）が追加された。その目的は、組織が一丸となって「ガバナンス、リスク管理、コンプライアンス」（GRC）を保持する体制を構築し、リスク管理、セキュリティ強化に注力することだ。

AI RMFとは

　NISTは2023年1月、AI RMFを公開した。NISTによると、AI RMFは「AI技術およびシステムの設計、開発、使用、評価に対する公共の信頼を育む」ことを目的の一つとしている。

　AI RMFは、AI技術のリスクを管理するためにCISO（最高情報セキュリティ責任者）やIT部門のリーダーが取るべき対策を以下の4つに分類している。

1. 統治（Govern）
2. マッピング（Map）
3. 測定（Measure）
4. 管理（Manage）

　AI RMFも、組織のGRCを保持する体制の確立を支援する。

　NIST CSFとAI RMFの目標には共通点がある。一方AI RMFが主な対象とするのは、AIツールやソフトウェアを開発する組織だ。AIシステムの設計、開発、展開、テスト、評価、検証、妥当性の確認に注力するよう促す。

　ただし、AIツールやソフトウェアを開発する立場ではなく、業務でAIツールやソフトウェアを使用している組織であってもAI RMFを活用することは可能だ。サイバーセキュリティに重点を置くNISTとAI技術のリスクに重点を置くAI RMFは、組織の規模や状況に合わせて活用できるよう設計されており、両方を使うことでリスクを包括的に管理できる体制を構築可能だ。

NIST CSFとAI RMFを併用するには

　サイバーセキュリティとAI技術のリスクの両方に対処する上での理想的な対処は、NIST CSFとAI RMFが提示する全ての対策を講じることだ。ただし予算や人員が限られている組織は、優先順位を付けて両フレームワークを併用するのが現実的だ。

　NIST CSFとAI RMFを併用する現実的な選択肢の一つに、AI技術のリスクについて定期的に議論する会議の設置がある。この会議ではテンプレートを用意して、リスクの特定、評価、管理について協議する。AI技術には、以下のリスクがある。

• ディープフェイク
  • AI技術を使って合成された、事実と異なる映像や音声、写真
• 誤ったプロンプト（AIモデルへの指示）で生じる機密情報の漏えい
• ハルシネーション
  • AIモデルが事実に基づかない回答を出力すること

　リスクを特定して対策を検討したら、従業員が保有したり使用したりしているAIツールを把握する。例えばAIエージェント、OpenAIが開発したAIチャットbot「ChatGPT」、画像生成AIモデル「DALL-E」などだ。従業員に調査を実施するか、ネットワーク監視システムのパフォーマンスデータ分析を通じて、使用されているAIツールを特定してリスト化する。作成したリストを基に、次に取るべき対策を検討する。

　次に、表計算シートなどのツールを使って、AIツールとAI技術のリスクをひも付けよう。各AIツールに対するリスク軽減策を検討し、決定する。リスク軽減策は、組織の状況や対策に割くことができる予算や人員、リスクの重大さに応じて調整する。従業員研修や啓発も有用な取り組みだ。

　NIST CSFとAI RMFは、サイバーセキュリティやAI技術の脅威を整理して組織内外に伝達するための優れたツールだ。NIST CSFが扱う範囲は広いため、NIST CSFとAI RMFの両方をAI技術のリスク管理に適用することは困難に思える可能性がある。しかし、両者はさまざまな場面で活用できるように設計されており、小規模なチームでも効果的に使うことが可能だ。

TechTarget.AIとは

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。