軽視されがちな「AIセキュリティ」
スピード重視が招く「危険なAI利用」の実態 調査レポートから読み解く
AI技術はビジネスに浸透しつつあるが、そのセキュリティ対策が不十分であることが明らかになった。具体的には何がどう駄目なのか。セキュリティベンダーの調査を見てみよう。
人工知能(AI)技術の開発や利用が拡大している中、AIのモデルやツールに対してセキュリティ対策を十分に講じていない組織があることが、セキュリティベンダーOrca Securityの調査で分かった。AI技術はさまざまな面でビジネスを支えるようになりつつある。安全に使うために知っておきたい具体的なリスクと対策とは何か。
Orcaが指摘するAIの「2大リスク」はこれだ
2024年9月にOrca Securityは2AIセキュリティについてまとめたレポート「2024 State of AI Security Report」(2024年AIセキュリティレポート)を公開した。レポートでは、主要なクラウドサービスである「Amazon Web Services」(AWS)や「Microsoft Azure」「Google Cloud」「Oracle Cloud」「Alibaba Cloud」からデータを得て分析している。
Orca Securityによると、AI技術の開発や利用において、組織はスピードや効果を重視し、セキュリティを二の次にする傾向がある。今回のレポートでは、大きく2つのセキュリティリスクが明らかになったという。
- root(管理者)権限でシステムにアクセスできるデフォルト設定が無効化されていないこと
- 脆弱(ぜいじゃく)性のあるツールが使われ、攻撃者によって悪用されればソースコードが流出する恐れがあること
後者についてOrca Securityは、約5割の組織がコラボレーションや自動化のためにAIツールを利用しているが、その大半に少なくとも1つの脆弱性が含まれると述べる。ただし、ほとんどの脆弱性は危険度が「低」から「中」だという。そのため、実際に攻撃に悪用されるリスクが比較的低いと同社はみている。
各種AI開発ツールの弱点
Azure OpenAI Service
Orca Securityによれば、AIアプリケーションを構築する際のツールとしてMicrosoftの「Azure OpenAI Service」が広く使われている。しかし、ユーザー組織の27%では同ツールへの不正侵入を防ぐための対策が不十分だという。そのため、「クラウドリソースとAIサービス間で送信されるデータの傍受や改ざんができる可能性がある」(同社)
Amazon SageMaker
レポートの中でOrca Securityは、AWSの機械学習モデル構築ツール「Amazon SageMaker」のセキュリティ問題を指摘。同社によると、Amazon SageMakerのバケット(データ保存領域)の45%はデフォルトでランダム化されていないバケット名を使用している。そのため、攻撃者にとってバケット名は推測しやすく、攻撃につながるリスクが高まるという。
Vertex AI
もう一つのセキュリティ問題は、データ暗号化の実装が不十分なことだ。Orca Securityによると、GoogleのAI開発ツール「Vertex AI」を使用している組織の98%が、管理キーの保存時の暗号化を有効にしていない。「暗号化されていない機密データが流出すれば、AIモデルの盗難や改変、削除の可能性がある」(同社)
OpenAIやHugging Faceのツール
今回のレポートでは、AI技術ベンダーOpenAIやHugging Faceが提供する各種ツールに関するセキュリティリスクも取り上げられている。Orca Securityによれば、OpenAIやHugging Faceのユーザー組織の中には、そのアクセスキーを公開している組織がある。アクセスキーの公開は攻撃を招きやすいとみられる。
求められる対策とは
「セキュリティの責任はベンダーにあるのか。それともユーザーにあるのか。誰が責任を負うかが定まっていない」。Orca Security最高経営責任者(CEO)のギル・ジェロン氏は、AI技術の開発や利用を巡る助教についてそう述べる。同氏によると、ベンダーはあくまでAI技術を「提供」することが守備範囲だ。AI技術をどう使うかはユーザーの責任になるという。「『Googleが提供しているのだから安全だろう』と考えるのは危険だ」(ジェロン氏)
そうした中、ユーザー組織はAI開発にセキュリティを取り入れ、早い段階からセキュリティポリシーを策定しなければならないとジェロン氏は説明する。AI技術の安全に使うには、使いやすさとセキュリティの両立が欠かせないという。すぐに講じるべき対策として同氏はアクセス権限を制御する重要性を強調する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
3
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
4
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
5
「Windows Server 2028」、初のIntune対応をプレビュー PCとサーバを一元管理へ
-
6
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
7
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
8
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
9
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
10
「企業のサーバ環境と調達・価格動向」に関するアンケート
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー