揺らぐApple製AIの信頼性【前編】
iPhoneやMacに搭載されたAI機能「Apple Intelligence」に“批判殺到”の訳
macOSやiOSに搭載されるAppleのAI機能群「Apple Intelligence」の信頼性について批判が出ている。何が問題なのか。背景にあるLLMの根本的な弱点とは。
Appleが同社製OSに組み込む人工知能(AI)機能群として2024年10月に提供を開始した「Apple Intelligence」について、公共放送局BBCは同年12月中旬、事実と異なる情報を生成する「ハルシネーション」を起こしたとして猛抗議している。この問題から、大規模言語モデル(LLM)の「根本的な弱点」が浮かび上がっている。
Apple Intelligenceへの批判に見る“LLMの弱点”
BBCは、Apple Intelligenceが虚偽のニュース要約を配信したと報告している。問題となった要約は、「保険会社United Healthcareのブライアン・トンプソンCEOを殺害した罪に問われたルイジ・マンジョーネ被告が銃で自殺した」というもので、出典としてBBCが明記されていた。実際には被告は自殺していなかった。BBCは「あたかもBBCが虚偽を報じたかのような印象を与えた」とAppleに抗議した。
ProPublicaをはじめとする他の報道機関も、Apple Intelligenceが虚偽の要約を生成したことを報告している。こうした問題を受けて、英国ジャーナリスト組合や国境なき記者団(RSF)はApple Intelligenceの廃止を求めている。
AIモデルのハルシネーションによる影響を受けたベンダーはAppleだけでない。
2024年10月、AI搭載検索エンジン「Perplexity」を提供するAIベンダーPerplexity AIは、米国の出版社Dow Jones & CoとNew York Postに提訴された。両社は、Perplexityがニュース記事の誤った要約を生成したと主張している。
2024年5月には、Googleが自社の検索エンジンに搭載する「AI Overviews」(AIによる概要)機能が、ユーザーの質問に対して事実に基づかない回答を提示したとして、技術的改善に取り組むとしている。
「ハルシネーションはデバッグ(エラー修正)できるような単純な問題ではなく、根本的な問題だ」。こう指摘するのは、ワシントン大学(University of Washington)のチラグ・シャー教授(情報科学)だ。LLMの本質は情報を生成することであり、要約や合成といたタスクではハルシネーションが生じやすくなる傾向があるという。
Appleは今回の問題を受けてApple Intelligenceのニュース通知要約機能を一時停止。BBCに対し、Apple Intelligenceで生成した要約にはラベル付けをし、AIによる要約であることが明記されるようアップデートすると説明した。しかし、シャー氏は「それでは不十分だ」と指摘する。「大半の人は、ネットに出てくる情報がどう生成されているかを理解していない。簡単な解決策はなく、さらなる技術開発やリスク軽減策が進むまで、使用を控えることだ」。
次回は、Apple Intelligenceに対する批判が集まる中で、企業にどのような影響があるのかを探る。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法 -
事例
[発注ナビ株式会社] アンケート調査で見えた「脱Excelの実態」 成功企業が選んだ課題解決方法は? -
市場調査・トレンド
[発注ナビ株式会社] システム開発を失敗させないための「発注先」の見つけ方 -
市場調査・トレンド
[発注ナビ株式会社] データで見る「システム発注」のリアル “見積もり”より大切な5つの要素とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
5
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
6
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
7
なぜ「Microsoft Copilot」は“仕事のOS”を名乗れるのか? Ignite 2026の全容
-
8
「Windows Server 2028」、初のIntune対応をプレビュー PCとサーバを一元管理へ
-
9
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
10
「プロンプトインジェクション」の適切なリスク対策はどれ?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー