揺らぐApple製AIの信頼性【前編】
iPhoneやMacに搭載されたAI機能「Apple Intelligence」に“批判殺到”の訳
macOSやiOSに搭載されるAppleのAI機能群「Apple Intelligence」の信頼性について批判が出ている。何が問題なのか。背景にあるLLMの根本的な弱点とは。
Appleが同社製OSに組み込む人工知能(AI)機能群として2024年10月に提供を開始した「Apple Intelligence」について、公共放送局BBCは同年12月中旬、事実と異なる情報を生成する「ハルシネーション」を起こしたとして猛抗議している。この問題から、大規模言語モデル(LLM)の「根本的な弱点」が浮かび上がっている。
Apple Intelligenceへの批判に見る“LLMの弱点”
BBCは、Apple Intelligenceが虚偽のニュース要約を配信したと報告している。問題となった要約は、「保険会社United Healthcareのブライアン・トンプソンCEOを殺害した罪に問われたルイジ・マンジョーネ被告が銃で自殺した」というもので、出典としてBBCが明記されていた。実際には被告は自殺していなかった。BBCは「あたかもBBCが虚偽を報じたかのような印象を与えた」とAppleに抗議した。
ProPublicaをはじめとする他の報道機関も、Apple Intelligenceが虚偽の要約を生成したことを報告している。こうした問題を受けて、英国ジャーナリスト組合や国境なき記者団(RSF)はApple Intelligenceの廃止を求めている。
AIモデルのハルシネーションによる影響を受けたベンダーはAppleだけでない。
2024年10月、AI搭載検索エンジン「Perplexity」を提供するAIベンダーPerplexity AIは、米国の出版社Dow Jones & CoとNew York Postに提訴された。両社は、Perplexityがニュース記事の誤った要約を生成したと主張している。
2024年5月には、Googleが自社の検索エンジンに搭載する「AI Overviews」(AIによる概要)機能が、ユーザーの質問に対して事実に基づかない回答を提示したとして、技術的改善に取り組むとしている。
「ハルシネーションはデバッグ(エラー修正)できるような単純な問題ではなく、根本的な問題だ」。こう指摘するのは、ワシントン大学(University of Washington)のチラグ・シャー教授(情報科学)だ。LLMの本質は情報を生成することであり、要約や合成といたタスクではハルシネーションが生じやすくなる傾向があるという。
Appleは今回の問題を受けてApple Intelligenceのニュース通知要約機能を一時停止。BBCに対し、Apple Intelligenceで生成した要約にはラベル付けをし、AIによる要約であることが明記されるようアップデートすると説明した。しかし、シャー氏は「それでは不十分だ」と指摘する。「大半の人は、ネットに出てくる情報がどう生成されているかを理解していない。簡単な解決策はなく、さらなる技術開発やリスク軽減策が進むまで、使用を控えることだ」。
次回は、Apple Intelligenceに対する批判が集まる中で、企業にどのような影響があるのかを探る。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[ServiceNow Japan合同会社] 大阪市の未来を創る「行政DX」の本質と、その取り組みを支える統合基盤の実力 -
事例
[ServiceNow Japan合同会社] 【行政DX先進事例】横浜市が「市民に大切な時間を返す」を実現できた理由とは? -
市場調査・トレンド
[ServiceNow Japan合同会社] 「行政DXの利益」を得られていない行政機関はどこでつまずいているのか? -
事例
[ServiceNow Japan合同会社] 藤沢市の「シン・シヤクショプラットフォーム」が問い合わせ電話を減らせた理由 -
市場調査・トレンド
[SAS Institute Japan株式会社] 79%が直面したAI判断手動修正のワナ 手戻りを防ぎ、ROIを最大化する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
2
PC選びの妙で差がつくAI時代 通常PC、AI PC、Copilot+ PCをどう使い分ける?
-
3
企業が「Microsoft Azure」を選ばざるを得ない理由
-
4
「オフィス移転・刷新に伴うネットワーク環境の実態」に関するアンケート
-
5
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
6
「RAG不要論」は本当か? AIに全部読ませる運用の落とし穴
-
7
「データ活用とAI活用の実態」に関するアンケート
-
8
Microsoft月例パッチ1400件超で過去最多 「限界点」を迎えたパッチ管理
-
9
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
10
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
10
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー