生成AIからデータが盗まれていることも……？ LLMの10大脅威：LLMの「10大リスク」と対策【後編】

大規模言語モデル（LLM）を狙う脅威が目立ってきている。LLMを安全に利用するにはどうすればいいのか。LLMの「10大脅威」と、適切な保護策とは。

[Nihad Hassan，TechTarget]

　人工知能（AI）ベンダーOpenAIが開発する「GPT」シリーズをはじめ、大規模言語モデル（LLM）に基づいた生成AIツールの利用が広がりつつある。それに伴い、LLMを危険にさらす脅威が目立ってきている。ソフトウェアのセキュリティ向上を目的に活動する非営利組織Open Worldwide Application Security Project（OWASP）の見解を基に、LLMの「10大脅威」をまとめた。本稿はその後半を紹介する。

データが盗まれていることも……？　LLMの10大脅威

併せて読みたいお薦め記事

連載：LLMの「10大リスク」と対策

• 前編：「生成AIが攻撃を受ける」とはどういうこと？　LLMの脅威“10選”

そもそも「LLM」とは

• 「LLM（大規模言語モデル）選び」の“基本の基”とは？
• 「パブリックLLM」を使いたくない企業の“切実な事情”とは

1. プロンプトインジェクション攻撃（前編で紹介）
2. 不正出力を利用した攻撃（同）
3. データポイズニング攻撃（同）
4. LLMへのDDoS攻撃（同）
5. LLMの脆弱（ぜいじゃく）性（同）
6. 機密情報の漏えい
7. 安全でないプラグイン
8. LLMに過剰な機能を持たせること
9. 過度な信頼
10. LLMの盗難

6．機密情報の漏えい

　LLMを利用する場合、学習データや分析アルゴリズムなど、さまざまな機密情報を生成AIの出力から誤って公開してしまう可能性がある。組織は情報漏えいのリスクを認識し、データを扱う際に細心の注意を払わなければならない。情報漏えいのリスクを軽減するためには、以下の対策が有効だと考えられる。

• 機密情報が学習データに含まれないようにする
• アクセス制限など、LLM利用の明確なセキュリティポリシーを定める

7．安全でないプラグイン

　LLMを特定のタスクに最適化するために、プラグイン（拡張機能）を開発するケースが珍しくない。例えば、LLMがリアルタイムにインターネットや社内システムのデータにアクセスできるようにするためのプラグインがある。LLMプラグインの欠点はさまざまな攻撃に対して脆弱であることだ。攻撃者はLLMプラグインの脆弱性を悪用すれば、データ盗難や任意コードの実行、権限昇格といったことができる。安全でないプラグインによる攻撃のリスクを軽減するためには、以下の対策が有効だと考えられる。

• 認証ツールなどを使ってプラグイン開発工程をしっかり管理し、プラグインに対する不正入力ができないようにする。

• LLMの実行環境から独立した環境でプラグインを実行する。
• データ暗号化によって、プラグインとLLM間の通信のセキュリティを高める。
• プラグインのセキュリティを定期的に監査し、脆弱性を発見したら迅速に修正する。

8．LLMに過剰な機能を持たせること

　LLMに過剰な機能を持たせると、悪意ある行動や安全でない行動につながる“意図しない出力”が生成される可能性がある。過剰な機能によるリスクを軽減するためには、以下の対策が有効だと考えられる。

• LLMが主要な目的を達成するために必要な機能のみを備える
• LLMへのアクセスを制限し、LLMに機能を追加できる人を限定する
• LLMがユーザーを介入せず、独立して意思決定をしないようにする

9．過度な信頼

　“人間の脆弱性”の一つとして、LLMに対する過度な信頼がある。過度な信頼とは、自分で考えることなく、LLMの回答をそのまま信じてしまうことだ。LLMは不正確な回答や不正な回答を出力する可能性がある。そのため、過度な信頼はさまざまなセキュリティリスクを生み出しかねない。

　例えば、LLMが生成したソフトウェアのソースコードに脆弱性が含まれる可能性がある。安全性を確認することなくコードをそのままソフトウェアに組み込めば、攻撃のリスクが高まる。LLMを過度に信頼することで発生するリスクを軽減するためには、以下の対策が有効だと考えられる。

• LLMの出力を人の目で念入りに確認する
• 信頼できる情報源を使い、LLMの出力をダブルチェックする
• LLMの出力を定期的に監査し、偏った回答や安全でない回答のパターンがあったらLLMに修正を加える

10．LLMの盗難

　LLMそのものの盗難もあり得る。この場合、攻撃者はLLMのファイルを不正入手してLLMを複製した上で、攻撃側にとって有利になるように利用したり、LLM内の機密情報を盗んだりする。LLM盗難のリスクを軽減するためには、以下の対策が有効だと考えられる。

• 認証ツールを使い、LLMのファイルや学習データへのアクセスを制限する
• LLMのファイルや学習データを暗号化する
• LLMのインフラを運用している場所の物理セキュリティを高める
• 「DLP」（データ損失防止）ツールにより、LLMファイルの不正な転送を防ぐ
• LLMのファイルや学習データを本システムから切り離したシステムに保存する

TechTarget発　先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。