揺らぐApple製AIの信頼性【前編】
iPhoneやMacに搭載されたAI機能「Apple Intelligence」に“批判殺到”の訳
macOSやiOSに搭載されるAppleのAI機能群「Apple Intelligence」の信頼性について批判が出ている。何が問題なのか。背景にあるLLMの根本的な弱点とは。
Appleが同社製OSに組み込む人工知能（AI）機能群として2024年10月に提供を開始した「Apple Intelligence」について、公共放送局BBCは同年12月中旬、事実と異なる情報を生成する「ハルシネーション」を起こしたとして猛抗議している。この問題から、大規模言語モデル（LLM）の「根本的な弱点」が浮かび上がっている。
Apple Intelligenceへの批判に見る“LLMの弱点”
BBCは、Apple Intelligenceが虚偽のニュース要約を配信したと報告している。問題となった要約は、「保険会社United Healthcareのブライアン・トンプソンCEOを殺害した罪に問われたルイジ・マンジョーネ被告が銃で自殺した」というもので、出典としてBBCが明記されていた。実際には被告は自殺していなかった。BBCは「あたかもBBCが虚偽を報じたかのような印象を与えた」とAppleに抗議した。
ProPublicaをはじめとする他の報道機関も、Apple Intelligenceが虚偽の要約を生成したことを報告している。こうした問題を受けて、英国ジャーナリスト組合や国境なき記者団（RSF）はApple Intelligenceの廃止を求めている。
AIモデルのハルシネーションによる影響を受けたベンダーはAppleだけでない。
2024年10月、AI搭載検索エンジン「Perplexity」を提供するAIベンダーPerplexity AIは、米国の出版社Dow Jones & CoとNew York Postに提訴された。両社は、Perplexityがニュース記事の誤った要約を生成したと主張している。
2024年5月には、Googleが自社の検索エンジンに搭載する「AI Overviews」（AIによる概要）機能が、ユーザーの質問に対して事実に基づかない回答を提示したとして、技術的改善に取り組むとしている。
「ハルシネーションはデバッグ（エラー修正）できるような単純な問題ではなく、根本的な問題だ」。こう指摘するのは、ワシントン大学（University of Washington）のチラグ・シャー教授（情報科学）だ。LLMの本質は情報を生成することであり、要約や合成といたタスクではハルシネーションが生じやすくなる傾向があるという。
Appleは今回の問題を受けてApple Intelligenceのニュース通知要約機能を一時停止。BBCに対し、Apple Intelligenceで生成した要約にはラベル付けをし、AIによる要約であることが明記されるようアップデートすると説明した。しかし、シャー氏は「それでは不十分だ」と指摘する。「大半の人は、ネットに出てくる情報がどう生成されているかを理解していない。簡単な解決策はなく、さらなる技術開発やリスク軽減策が進むまで、使用を控えることだ」。
次回は、Apple Intelligenceに対する批判が集まる中で、企業にどのような影響があるのかを探る。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[o9ソリューションズ・ジャパン株式会社] 「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略 -
製品資料
[o9ソリューションズ・ジャパン株式会社] 「サプライチェーン最適化」実践ガイド：効果的な意思決定を実現する秘訣とは？ -
製品資料
[株式会社リンプレス] 非デジタル／IT人材を「自走するDX推進者」に変えるための育成ロードマップ -
市場調査・トレンド
[ワンアイルコンサルティング株式会社] AI時代の組織設計：「判断と責任」を人に残すための2つの原則とは？ -
技術文書・技術解説
[ワンアイルコンサルティング株式会社] システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
2
ソフトウェア開発生産性向上に取り組む企業は4割 調査で学ぶ「停滞」の正体
-
3
クラウド資格コレクターは評価されない？ 年収1000万を分ける“OSの理解度”
-
4
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
5
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
6
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
7
脱クラウドの受け皿か NVIDIA×国内連合にみる「AIコスト削減」の現実味
-
8
「配信に1カ月」の代償 カルビーがLINE運用で外部依存を断ち切った理由
-
9
【基本情報技術者試験】「デュプレックスシステム」と「デュアルシステム」の違いは？
-
10
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
ホワイトペーパーランキング PR
-
1
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
3
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
4
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
5
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
6
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
7
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには？
-
8
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは？
-
9
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
10
NTTドコモが実践したクラウド統合監視 業務量2倍でも残業削減を実現できた理由
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー