『ディープラーニングG検定 最強の合格問題集』出張版
【G検定】AIモデルへの「データ汚染」、正しくない説明はどれ?
AIの基礎から法律・倫理まで幅広い領域が問われる資格「G検定」。試験範囲の中でも重要度の高いテーマを1問ずつ取り上げ、理解の定着に役立つポイントを確認していきます。今回はAIモデル(機械学習モデル)への攻撃の一種である「データ汚染」についてです。
「G検定」(ジェネラリスト検定)は、AI(人工知能)技術全般、特に機械学習やディープラーニングの基礎を体系的に学ぶ資格試験です。AI人材の需要の高まりとともに受験者数は年々増加しており、企業でも従業員への取得を奨励する動きが広がっているそうです。
本記事はSBクリエイティブ刊『ディープラーニングG検定(ジェネラリスト)最強の合格問題集[第2版]』(ヤン・ジャクリン 著)から、G検定の出題範囲を踏まえた問題と解説を1問1答形式で紹介します。今回はAIモデル(機械学習モデル)への攻撃手法の一種である「データ汚染」を押さえる1問です。
問題
データ汚染について、最も不適切な選択肢を1つ選べ。
1.AIモデルの学習データを収集または加工する工程の中で、データに加えられる攻撃である。
2.画像データの特定の画素に加える変更は、慎重に観察してはじめて目視で気付けるくらい巧みなものである。
3.データ汚染は悪用だけではなく、人間社会にとって有益な使い方も可能である。
4.摂動を加えたデータを学習データに混入させると、それを学習したモデルは特定のクラスについて、入力データの誤分類をする可能性がある。
――答えは分かりましたか?
正解と解説
正解は「2.画像データの特定の画素に加える変更は、慎重に観察してはじめて目視で気付けるくらい巧みなものである。」
データ汚染で加える変更は目視では確認できないくらい微小なものです
- 選択肢1、4:データ汚染とは、AI・機械学習モデルの学習データに加えられる攻撃です。学習データの一部に「摂動」を加え、それをモデルに学習させることで、特定のクラスについて、入力データの誤分類を恣意的に引き起こします。
- 選択肢2:画像データの場合、「摂動」とは、特定の画素(ピクセル)に目視では認識できないような微小な変更操作を加えることです。目視では認識できなくても、機械学習モデルを「騙す」ことで、誤った判断をさせる可能性があります。
- 選択肢3:データ汚染は人間社会のセキュリティを守るためにも使われます。例えば、顔写真の漏洩や悪用による様々な被害を防ぐために、顔画像をウェブに投稿する前に、データ汚染(画像への摂動)でプライバシー保護の加工を行うツールが開発されています。
※この記事はSBクリエイティブ刊『ディープラーニングG検定(ジェネラリスト)最強の合格問題集[第2版]』から、アイティメディアが出版社の許可を得て一部加筆編集の上、転載したものです(無断転載禁止)。
Copyright © ITmedia, Inc. All Rights Reserved.
『ディープラーニングG検定 最強の合格問題集』出張版
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ -
製品資料
[パーソルクロステクノロジー株式会社] スマートファクトリー推進のための「アウトソーシング」活用例
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
3
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
4
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
5
「勤務形態」に関するアンケート
-
6
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
-
7
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
8
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
9
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
10
「Microsoft 365 Copilotを始めとするAIガバナンス」に関するアンケート
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー