Appleの児童ポルノ対策が抱える問題【第4回】
iPhone「児童ポルノスキャン」計画の実現は「難しい」と専門家が断言する理由
Appleが設計した画像スキャン技術は、本来の児童ポルノを検出する目的ではない悪質な行為に悪用される可能性があると専門家が警告する。技術のどこに“欠陥”があるのか。専門家の指摘に沿って解説する。
Appleは児童ポルノを摘発するための取り組みとして、スマートフォン「iPhone」内の画像を自動でスキャンし、該当画像があればAppleや法執行機関に報告する機能の実装を計画している。この機能の中核は、送信前にデータをスキャンしてテンプレートと照合する技術「クライアントサイドスキャン」（CSS：Client-Side Scanning）だ。この機能に対して専門家チームが論文を発表し、同社の取り組みと機能設計に問題があることを主張した。
iPhone「児童ポルノスキャン」計画の実現を阻む“欠陥”
当初のAppleの計画では、画像スキャン機能は「知覚ハッシング」技術を利用して、クラウドストレージサービス「iCloud」内の画像と、政府が供給した指紋画像のライブラリを照合するものだった。知覚ハッシング技術とは、画像をビット単位で厳密に一致しているかどうかを調べるのではなく、類似性を調べる技術を指す。
「NeuralHash」は、Appleが2021年8月に発表した、児童ポルノ画像を安全かつ確実に検出するための技術だ。だがNeuralHashが誤検知をすることや、この技術をリバースエンジニアリングして悪用可能なことを、同社の画像スキャン機能に批判的な研究者チームが実証した。
研究者チームは、iPhoneのOS「iOS 14」に組み込まれたNeuralHashを2週間でリバースエンジニアリングした。その結果、画像スキャンの回避や誤検知が発生した。NeuralHashが全く異なる2つの写真画像を「一致する」と判断した例を、あるチームが示したことで、NeuralHashは評判を落とすことになる。その発表の1カ月後、AppleはNeuralHashの取り組みを後退させた。
画像スキャン機能が利用する機械学習は「さらに脆弱（ぜいじゃく）だ」と、Appleを批判する論文を発表した専門家チームは考える。機械学習のモデルとトレーニングエンジンは、膨大な数のクライアントデバイスでの運用を通じて洗練される。これを悪用した攻撃者が、特別な細工を施したデータセットで、トレーニングアルゴリズムを汚染させる恐れがあるからだ。
これらの理由から、専門家チームは「人々のプライバシーと安全を不当な危険にさらすことなく、法執行機関に大きなメリットを提供する機能を設計することは難しい」という見解で一致している。技術の「段階的変化」であるクライアントサイドスキャンに対して、専門家チームは「保護を著しく損ない、われわれ皆の安全と安心を揺るがす」と述べた上で、「これは危険な技術だ」と結論付ける。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
2
「Microsoft 365のセキュリティ運用」に関するアンケート
-
3
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには？
-
5
221人調査で分かった「情シス最大のストレス」は？
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
IT製品の導入に関するアンケート「サーバ＆ストレージ」編
-
8
「データストレージの活用方法」に関するアンケート
-
9
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには？ サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは？
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー