Meta Platformsは自社が提供するSNSにおいて、生成AI画像へのラベル付けを開始する。その背景にあった人工知能技術を悪用した事件とは。
Meta Platforms(以下、Meta)は2024年2月6日(現地時間)、同社のSNS(ソーシャルネットワーキングサービス)でユーザーが投稿する画像について、人工知能(AI)が生成した画像にラベル付けをすると発表した。「Facebook」「Instagram」「Threads」が対象になる。同社は、AI技術を活用して生成されたコンテンツであることを示す共通の技術標準を策定するために、他ベンダーとの協力を進めている。
Metaは以前から同社の画像生成AIツールで生成した画像に不可視マーカー(メタデータと不可視のウオーターマーク)を付与し、ラベル付けをしている。今後は他社の画像生成AIツールが付与したメタデータも識別できる共通基準とツールを開発し、Google、OpenAI、Microsoft、Adobe、Midjourney、ShutterstockなどのAI画像コンテンツにもラベルを付けられるようにするという。ラベル付けの機能は今後数カ月以内に、利用する国と言語を問わず、Facebook、Instagram、Threadsで利用できるようになる。
米国では2024年11月に大統領選挙や連邦議会選挙が控えている。メディア企業やIT企業は、“印象操作”のような選挙の情報工作に生成AIが使われる可能性を案じ、対抗策を講じている。
2024年1月には米国ニューハンプシャー州の予備選挙において、ジョー・バイデン大統領への投票を控えさせる目的のロボコール(注)が大量にかけられたという事件が発生した。音声はAI技術を活用して生成されたとみられ、バイデン大統領の声に似せてあった。MetaがAI画像コンテンツのラベル付け機能を拡充しているのも、こうした投票妨害事件への対抗策の一環だと考えられる。
※注:ロボットによる自動音声電話。詐欺や勧誘など悪質なものが目立つようになってきたことで欧米では社会問題となっている。
新製品・新サービスや調査結果、セキュリティインシデントなど、米国TechTargetが発信する世界のITニュースをタイムリーにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
FacebookやXなど主要SNSで進む「外部リンク制限」の実態 唯一の例外は?
ソーシャルメディアはかつてWebサイトへの重要な流入経路であった。しかし、最近は各プラ...
生成AIとAR/VRで失った個性を取り戻す――2025年のSNS大予測(Instagram編)
万能だが特徴のはっきりしない「何でも屋」と化したInstagram。2025年の進化の方向性を予...
「AIネイティブ世代」の誕生 10代のAI活用度合いは?
博報堂DYホールディングスのHuman-Centered AI Instituteは、AIに対する現状の生活者意識...