『ディープラーニングG検定 最強の合格問題集』出張版
【G検定】画像に“見えない改変”を加えてAIを惑わせる攻撃、正しい呼び方は？
AIの基礎から法律・倫理まで幅広い領域が問われる資格「G検定」。試験範囲の中でも重要度の高いテーマを1問ずつ取り上げ、理解の定着に役立つポイントを確認していきます。今回は、画像データに人間には判別できないほどの微小な変更を加え、AIの分類結果を誤らせる手法について取り上げます。
「G検定」（ジェネラリスト検定）は、AI（人工知能）技術全般、特に機械学習やディープラーニングの基礎を体系的に学ぶ資格試験です。AI人材の需要の高まりとともに受験者数は年々増加しており、企業でも従業員への取得を奨励する動きが広がっているそうです。
本記事はSBクリエイティブ刊『ディープラーニングG検定（ジェネラリスト）最強の合格問題集［第2版］』（ヤン・ジャクリン 著）から、G検定の出題範囲を踏まえた問題と解説を1問1答形式で紹介します。今回は今回は、画像データに人間には判別できないほどの微小な変更を加え、AIの分類結果を誤らせる手法を押さえる1問です。
問題
以下の文章を読み、（ア）に入る概念として、最もよくあてはまる選択肢を１つ選べ。
画像データに人間から見て変化がわからない程度のノイズや変更を加えた（ア）は、機械学習モデルに誤分類を引き起こす可能性がある。
1．Noisy Sample
2．Deep Fake Example
3．Adversarial Example
4．Contaminated Example
――答えは分かりましたか？
正解と解説
正解は「3．Adversarial Example」
Adversarial Example（敵対的サンプル）とは、学習済みモデルが誤った出力をするように、特定の入力データを恣意的に加工したものです。具体的には、機械学習モデルを混乱させるような、人間の目で識別できない程度の微小なノイズを入力データに付与します。このような行為を敵対的攻撃といいます。他の選択肢は存在しない、誤った用語です。
データ汚染と敵対的攻撃の違い
- データ汚染：学習データにノイズを付与し、それを用いてモデルを学習する。
- 敵対的攻撃：学習済みモデルに、ノイズを付与したデータを入力し、誤判断させる。
※この記事はSBクリエイティブ刊『ディープラーニングG検定（ジェネラリスト）最強の合格問題集［第2版］』から、アイティメディアが出版社の許可を得て一部加筆編集の上、転載したものです（無断転載禁止）。
Copyright © ITmedia, Inc. All Rights Reserved.
『ディープラーニングG検定 最強の合格問題集』出張版
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
2
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
3
「Microsoft 365のセキュリティ運用」に関するアンケート
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには？
-
5
221人調査で分かった「情シス最大のストレス」は？
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
IT製品の導入に関するアンケート「サーバ＆ストレージ」編
-
8
「データストレージの活用方法」に関するアンケート
-
9
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには？ サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは？
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー