Apple製AIの誤報で浮上した「メディアは生成AIにどう関わるべきか」問題：揺らぐApple製AIの信頼性【後編】

AppleのAI機能群「Apple Intelligence」が虚偽のニュースを生成したとして、英国放送局BBCが抗議している。AIへの信頼が揺らぐ一方で、生成AIとメディアの関係に変化が生じする可能性がある。

[Esther Shittu，TechTarget]

　2024年12月中旬、公共放送局のBBCは、AppleのAI（人工知能）機能群「Apple Intelligence」が不正確なニュース要約を生成したことで、あたかもBBCが虚偽を報じたかのような印象を与えたと報告した。この問題により、AppleのAI機能に対する信頼が揺らいでいるだけでなく、生成AIとメディアの関係に変化が生じる可能性が浮上している。

Apple製AIの「誤報」で問われる“生成AIとメディアの関係”とは

併せて読みたいお薦め記事

揺らぐApple製AIの信頼性

• 前編：iPhoneやMacに搭載されたAI機能「Apple Intelligence」に“批判殺到”の訳

LLMに関する最新の話題

• “後発組”IBMのオープンソースAI「Granite」が苦戦しそうな理由とは？
• 「LLMをPCで使いたい」「複数人で使いたい」を実現するには何が必要？

　BBCは、Apple Intelligenceが事実と異なる情報を生成する「ハルシネーション」を起こし、不正確なニュース要約を生成したことで、あたかもBBCが虚偽を報じたかのような印象を与えたと報告した。

　Apple IntelligenceはAppleが2024年10月に発表したAI機能群で、クライアントOS「macOS」やモバイルOS「iOS」に搭載されている。Appleは今回の件を受けて、Apple Intelligenceで生成した要約にはラベル付けをし、AIによる要約であることが明記されるようアップデートすると説明している。

　Apple Intelligenceを発表する前、AppleはAI市場において、GoogleやMicrosoftなど競合ベンダーに後れを取っているという見方をされてきた。Apple Intelligenceは、AppleがAI市場に参入する革新的な一手となるはずだった。

　今回のようなハルシネーションを引き起こしたことで、Apple Intelligenceの性能に疑問が生じただけでなく、深刻な法的リスクも懸念されている。ノースイースタン大学（Northeastern University）でAIアドバイザーを務めるマイケル・ベネット氏は、「Apple Intelligenceがニュース記事を誤って要約し、さらにその情報源としてメディア名を言及していることは、名誉毀損の訴訟における根拠になり得る」と指摘する。

　一方でベネット氏は、「メディアが主導権を握る絶好のチャンスだ」とも話す。

　AIモデルのハルシネーションにより、メディアが法的責任を問われる可能性は低い。しかし、AppleやGoogleのようなAIベンダーと手を組む場合、メディア側で対策を講じるべきだ。誤った要約が生成されたり、出典として出版社名が引用されたりする可能性を最小限に抑えるため、出版社はAIベンダーと協議する必要がある。

　具体的には、AIによるハルシネーションがブランドの評判に悪影響を及ぼさないよう、既存の契約に新たな条項や文言を盛り込むことが重要だ。メディア側が主導的な立場を取り、AIモデルの改善を促していくことも推奨される。

　「技術的もしくは財務的にAIモデルの改良が難しい場合は、要約の出典をメディアに帰属させるのを停止すべきだ。そうでなければ、法的措置を取る姿勢を示す必要がある」とベネット氏はアドバイスする。

　今回のAppleの問題は、米連邦取引委員会（FTC）が介入する可能性もあるという。消費者はApple Intelligenceを搭載した新型iPhoneに対価を払っており、もしそのサービスに欠陥がある場合、消費者は本来得られるはずの価値を享受できないからだ。ただし、事態が深刻化する前に、Appleが問題の解消に向けて何らかの措置を講じる可能性はある。

TechTarget発 先取りITトレンド

米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。