• 知的財産の喪失
  • 独自に開発したAIモデルや、それが扱うデータは、企業にとって極めて重要な知的財産だ。これが盗まれれば、競争優位が損なわれ、長期的な収益見通しにも悪影響を及ぼしかねない。
• 機密情報の流出
  • サイバー攻撃者が、盗んだAIモデルの訓練に使われた機密データにアクセスできれば、その情報を悪用して企業内の他の資産を侵害する可能性がある。こうした情報漏えいは、経済的損失だけでなく、顧客からの信頼喪失や規制当局による罰金など、深刻な結果を招き得る。
• 悪意あるコンテンツの生成
  • 盗まれたAIモデルが、ディープフェイクやマルウェア、フィッシング詐欺といった悪意あるコンテンツの作成や脅威に使われる可能性もある。これにより、さらなるセキュリティリスクが発生する。
• 風評被害
  • AIモデルや機密データを十分に保護できなかった企業は、深刻な風評被害に長期間さらされる可能性がある。ブランドイメージや信頼の回復には時間を要するだろう。

AIモデル盗難の攻撃タイプ

　「AIモデルの盗難」と「モデル抽出」という用語は、ほぼ同義で用いられる。モデル抽出とは、攻撃者がAIシステムに対して巧妙に設計したプロンプト（質問文）を投げ掛けることで、AIモデルのパラメーターやアーキテクチャに関する情報を引き出す手法だ。

　このような攻撃が成功すると、元のAIモデルをリバースエンジニアリングし、模倣モデル（シャドーモデル）を作成できてしまう。「モデル反転攻撃」もある。これは、モデル抽出と同様にクエリベースで実行される攻撃手法で、AIモデルの訓練に使用された元データの一部を復元することを目的としている。

　AIモデル盗難の派生的な手口として「モデルの不正再公開」がある。これは、攻撃者が公開済み、あるいは盗み出したAIモデルを無断でコピーし、自分たちの目的に合わせて再訓練する手法だ。中には、意図的に悪意ある動作をさせるようにモデルを作り変えるケースもある。

　AIモデルの窃取を狙う攻撃者は、AIシステムの挙動を詳しく把握するために、実行時間や電力消費、音波といった動作情報を解析する「サイドチャネル攻撃」のような手法を用いることもある。悪意を持った内部関係者や、設定ミス、パッチ未適用のソフトウェアの脆弱（ぜいじゃく）性といった古典的なサイバー脅威が、結果的にAIモデルを外部の攻撃者にさらす原因になることもある。

AIモデル盗難防止と被害軽減策

　AIモデルの盗難を防ぎ、被害を最小限に抑えるために、アプリケーションのセキュリティ向上を目的とした国際団体OWASP（Open Worldwide Application Security Project）は、次のようなセキュリティ対策の実施を推奨している。

• アクセス制御の強化
  • 多要素認証（MFA）などを用いた厳格なアクセス制御を導入し、不正アクセスを防ぐ。
• バックアップの取得
  • AIモデルのコードや訓練データを含めて定期的にバックアップを取り、万一の盗難に備える。
• データとソースコードの暗号化
  • AIモデルのソースコード、訓練データ、機密情報を暗号化し、情報の漏えいリスクを低減する。
• 法的保護の整備
  • AIモデルに特許などの正式な知的財産保護を検討する。これにより、盗難が発生した際に明確な法的手段を講じやすくなる。・モデルの難読化
  • コードを難読化することで、クエリベースの攻撃やリバースエンジニアリングを困難にし、モデル抽出を防止する。
• 動作の監視
  • AIモデルの実行状況を常時監視し、不審な挙動を早期に検知して対処する。
• 電子透かしの付与
  • AIモデルのソースコードや訓練データにウオーターマーク（電子透かし）を埋め込むことで、盗難後の追跡を可能にする。