BBCは、Apple Intelligenceが事実と異なる情報を生成する「ハルシネーション」を起こし、不正確なニュース要約を生成したことで、あたかもBBCが虚偽を報じたかのような印象を与えたと報告した。

　Apple IntelligenceはAppleが2024年10月に発表したAI機能群で、クライアントOS「macOS」やモバイルOS「iOS」に搭載されている。Appleは今回の件を受けて、Apple Intelligenceで生成した要約にはラベル付けをし、AIによる要約であることが明記されるようアップデートすると説明している。

　Apple Intelligenceを発表する前、AppleはAI市場において、GoogleやMicrosoftなど競合ベンダーに後れを取っているという見方をされてきた。Apple Intelligenceは、AppleがAI市場に参入する革新的な一手となるはずだった。

　今回のようなハルシネーションを引き起こしたことで、Apple Intelligenceの性能に疑問が生じただけでなく、深刻な法的リスクも懸念されている。ノースイースタン大学（Northeastern University）でAIアドバイザーを務めるマイケル・ベネット氏は、「Apple Intelligenceがニュース記事を誤って要約し、さらにその情報源としてメディア名を言及していることは、名誉毀損の訴訟における根拠になり得る」と指摘する。

　一方でベネット氏は、「メディアが主導権を握る絶好のチャンスだ」とも話す。

　AIモデルのハルシネーションにより、メディアが法的責任を問われる可能性は低い。しかし、AppleやGoogleのようなAIベンダーと手を組む場合、メディア側で対策を講じるべきだ。誤った要約が生成されたり、出典として出版社名が引用されたりする可能性を最小限に抑えるため、出版社はAIベンダーと協議する必要がある。

　具体的には、AIによるハルシネーションがブランドの評判に悪影響を及ぼさないよう、既存の契約に新たな条項や文言を盛り込むことが重要だ。メディア側が主導的な立場を取り、AIモデルの改善を促していくことも推奨される。

　「技術的もしくは財務的にAIモデルの改良が難しい場合は、要約の出典をメディアに帰属させるのを停止すべきだ。そうでなければ、法的措置を取る姿勢を示す必要がある」とベネット氏はアドバイスする。

　今回のAppleの問題は、米連邦取引委員会（FTC）が介入する可能性もあるという。消費者はApple Intelligenceを搭載した新型iPhoneに対価を払っており、もしそのサービスに欠陥がある場合、消費者は本来得られるはずの価値を享受できないからだ。ただし、事態が深刻化する前に、Appleが問題の解消に向けて何らかの措置を講じる可能性はある。