1. プロンプトインジェクション攻撃（前編で紹介）
2. 不正出力を利用した攻撃（同）
3. データポイズニング攻撃（同）
4. LLMへのDDoS攻撃（同）
5. LLMの脆弱（ぜいじゃく）性（同）
6. 機密情報の漏えい
7. 安全でないプラグイン
8. LLMに過剰な機能を持たせること
9. 過度な信頼
10. LLMの盗難

6．機密情報の漏えい

　LLMを利用する場合、学習データや分析アルゴリズムなど、さまざまな機密情報を生成AIの出力から誤って公開してしまう可能性がある。組織は情報漏えいのリスクを認識し、データを扱う際に細心の注意を払わなければならない。情報漏えいのリスクを軽減するためには、以下の対策が有効だと考えられる。

• 機密情報が学習データに含まれないようにする
• アクセス制限など、LLM利用の明確なセキュリティポリシーを定める

7．安全でないプラグイン

　LLMを特定のタスクに最適化するために、プラグイン（拡張機能）を開発するケースが珍しくない。例えば、LLMがリアルタイムにインターネットや社内システムのデータにアクセスできるようにするためのプラグインがある。LLMプラグインの欠点はさまざまな攻撃に対して脆弱であることだ。攻撃者はLLMプラグインの脆弱性を悪用すれば、データ盗難や任意コードの実行、権限昇格といったことができる。安全でないプラグインによる攻撃のリスクを軽減するためには、以下の対策が有効だと考えられる。

• 認証ツールなどを使ってプラグイン開発工程をしっかり管理し、プラグインに対する不正入力ができないようにする。
• LLMの実行環境から独立した環境でプラグインを実行する。
• データ暗号化によって、プラグインとLLM間の通信のセキュリティを高める。
• プラグインのセキュリティを定期的に監査し、脆弱性を発見したら迅速に修正する。

8．LLMに過剰な機能を持たせること

　LLMに過剰な機能を持たせると、悪意ある行動や安全でない行動につながる“意図しない出力”が生成される可能性がある。過剰な機能によるリスクを軽減するためには、以下の対策が有効だと考えられる。

• LLMが主要な目的を達成するために必要な機能のみを備える
• LLMへのアクセスを制限し、LLMに機能を追加できる人を限定する
• LLMがユーザーを介入せず、独立して意思決定をしないようにする

9．過度な信頼

　“人間の脆弱性”の一つとして、LLMに対する過度な信頼がある。過度な信頼とは、自分で考えることなく、LLMの回答をそのまま信じてしまうことだ。LLMは不正確な回答や不正な回答を出力する可能性がある。そのため、過度な信頼はさまざまなセキュリティリスクを生み出しかねない。

　例えば、LLMが生成したソフトウェアのソースコードに脆弱性が含まれる可能性がある。安全性を確認することなくコードをそのままソフトウェアに組み込めば、攻撃のリスクが高まる。LLMを過度に信頼することで発生するリスクを軽減するためには、以下の対策が有効だと考えられる。

• LLMの出力を人の目で念入りに確認する
• 信頼できる情報源を使い、LLMの出力をダブルチェックする
• LLMの出力を定期的に監査し、偏った回答や安全でない回答のパターンがあったらLLMに修正を加える

10．LLMの盗難

　LLMそのものの盗難もあり得る。この場合、攻撃者はLLMのファイルを不正入手してLLMを複製した上で、攻撃側にとって有利になるように利用したり、LLM内の機密情報を盗んだりする。LLM盗難のリスクを軽減するためには、以下の対策が有効だと考えられる。

• 認証ツールを使い、LLMのファイルや学習データへのアクセスを制限する
• LLMのファイルや学習データを暗号化する
• LLMのインフラを運用している場所の物理セキュリティを高める
• 「DLP」（データ損失防止）ツールにより、LLMファイルの不正な転送を防ぐ
• LLMのファイルや学習データを本システムから切り離したシステムに保存する