「AIの開発中断」要請は正しいのか【中編】
生成AIを恐れる専門家に「開発中断こそ危険」との見方も どう見るべき?
AI技術が急成長を遂げる中、非営利団体がAI技術の開発を6カ月間停止するよう求める書簡を公開した。この要請にさまざまな専門家が賛同する一方で、「実現不可能」だと考える関係者もいる。その意見とは。
人工知能(AI)技術でテキストや画像などを自動生成する「生成AI」(ジェネレーティブAI)など、AI技術が急速に発展していることに懸念を示す人々がいる。AI技術のリスク軽減を目指す非営利団体Future of Life Instituteは、AI技術に関する大規模な実験や研究を、少なくとも6カ月間停止するようAI研究所やAIベンダーに要請する公開書簡を発表した。
開発中断は“机上の空論”か?
Future of Life Instituteの書簡には、1500人を超えるAI研究者やITリーダーが署名した。ただし書簡には、実現が相当難しいと考えられる条件が含まれており、楽観的ではない見方を示す専門家もいる。
併せて読みたいお薦め記事
連載:「AIの開発中断」要請は正しいのか
AI技術に対する懸念
「書簡に含まれる条件の大半はAI専門家が提唱したものだ。この事実は、最近のAI技術を巡る熱狂に変化をもたらし得る」。ノースイースタン大学(Northeastern University)で“責任あるAI”の教育カリキュラムおよびビジネスリード担当ディレクターを務めるマイケル・ベネット氏はそう話す。
AIベンダーOpenAIのAIチャットbot(AI技術を活用したチャットbot)「ChatGPT」や、その基になっているLLM(大規模言語モデル)「GPT-4」、GoogleのAIチャットbot「Bard」など、生成AIやそれを基にしたサービスが次々に登場している。そのたびにAI技術を巡る激しい競争が起こってきた。その結果、AI技術に対する一般消費者、政府機関、企業の注目が高まっている。生成AIに関する話題の中では、予想外に急速な技術の進化を懸念する声が上がることもあるが、議論のほとんどは熱狂的なものだ。
「署名者はAI技術が生み出す力を見極め、AI技術に関する疑問を解消したいと考えている」とベネット氏は話す。その疑問とは、「AI技術にどのような意味があるのか」「規制を通じてAI技術の開発をどう方向付け、運命をどう制御するのか」という2つだという。
GPT-4が前バージョンの「GPT-3」よりも大きく進化した事実が示すのは、「想像できないほどLLMが強力になる未来」(ベネット氏)だ。「人がAIの開発に取り組むのではなく、人とAIが協力してより強力なAIを作り出すことになりかねない」と同氏は付け加える。
ベネット氏は、OpenAIが非常に短いスパンで、研究成果をGPT-3およびGPT-4として目に見える形にしたことに言及する。「これらのLLMを実装したのは、ほとんど人で構成するチームだ。人とAIが半々のチームや、AI主体のチームになったら、短期間で衝撃的に進化したものを目にすることになる可能性がある」(同氏)
コンサルティング企業9sight Consultingの創設者バリー・デブリン氏も、中断を求める書簡に署名したIT業界幹部の一人だ。デブリン氏は、AI技術の主な問題は「生成AIの情報の集め方」だと考える。
「生成AIは利益第一でこれほどの急成長を遂げている」とデブリン氏は話す。その一方で同氏は、生成AIは全く精査されていないインターネット上のテキストや画像のデータを参照しており、明らかな偏りや大きな欠陥があるとも指摘する。「これは大規模で無秩序な社会実験だ。生成AIが素晴らしい成果をもたらすとしても、利益よりもずっと大きな犠牲を払い、気候や人物、社会、経済に関する偽情報の拡散に使われることはほぼ間違いない」(同氏)
開発中断はAIの進歩を妨げる?
ベンチャー投資家で、ベンチャーキャピタルRain Capitalの創設者でもあるチェンシー・ワン氏は、「書簡が訴えるAI技術の開発中断は、AI技術の高速な進化を鈍化させる」と話す。ワン氏が必要だと考えるのは、開発中断とは異なるアプローチだ。「急速な変化が社会や安全、プライバシーにもたらす影響を一歩引いて考察しながら、AI技術に関する動向に何らかの予防策を設けるべきだ」(同氏)
生成AIを開発するための教師データとプライバシー対策に関して、研究者やAIベンダーが十分に措置を講じていない点をワン氏は問題の一つだと指摘する。同氏はAI技術の開発全体を中断させるのは欲張った考え方だと認めながらも、「AI技術が今後社会に与え得る影響への対策を打つためには、開発速度を落とし、AI技術がどう作用するのかを調査することが欠かせない」と話す。
生成AIは意思決定を下すものではなく、新しい情報を生み出す存在だ。それを前提にしてワン氏は「生成AIが生み出した情報が正しいという保証が必要だ」と語る。
次回は、AI技術の開発中止の代替案を挙げる専門家の意見を取り上げる。
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト&ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
5
テレビとノートPCをつないだのに映らない――Dellが解説する正しい接続方法
-
6
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
7
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
8
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
9
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
10
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー