生成AIを恐れる専門家に「開発中断こそ危険」との見方も どう見るべき?「AIの開発中断」要請は正しいのか【中編】

AI技術が急成長を遂げる中、非営利団体がAI技術の開発を6カ月間停止するよう求める書簡を公開した。この要請にさまざまな専門家が賛同する一方で、「実現不可能」だと考える関係者もいる。その意見とは。

2023年11月08日 08時00分 公開
[Esther AjaoTechTarget]

関連キーワード

人工知能 | チャットbot | 機械学習


 人工知能(AI)技術でテキストや画像などを自動生成する「生成AI」(ジェネレーティブAI)など、AI技術が急速に発展していることに懸念を示す人々がいる。AI技術のリスク軽減を目指す非営利団体Future of Life Instituteは、AI技術に関する大規模な実験や研究を、少なくとも6カ月間停止するようAI研究所やAIベンダーに要請する公開書簡を発表した。

開発中断は“机上の空論”か?

 Future of Life Instituteの書簡には、1500人を超えるAI研究者やITリーダーが署名した。ただし書簡には、実現が相当難しいと考えられる条件が含まれており、楽観的ではない見方を示す専門家もいる。

 「書簡に含まれる条件の大半はAI専門家が提唱したものだ。この事実は、最近のAI技術を巡る熱狂に変化をもたらし得る」。ノースイースタン大学(Northeastern University)で“責任あるAI”の教育カリキュラムおよびビジネスリード担当ディレクターを務めるマイケル・ベネット氏はそう話す。

 AIベンダーOpenAIのAIチャットbot(AI技術を活用したチャットbot)「ChatGPT」や、その基になっているLLM(大規模言語モデル)「GPT-4」、GoogleのAIチャットbot「Bard」など、生成AIやそれを基にしたサービスが次々に登場している。そのたびにAI技術を巡る激しい競争が起こってきた。その結果、AI技術に対する一般消費者、政府機関、企業の注目が高まっている。生成AIに関する話題の中では、予想外に急速な技術の進化を懸念する声が上がることもあるが、議論のほとんどは熱狂的なものだ。

 「署名者はAI技術が生み出す力を見極め、AI技術に関する疑問を解消したいと考えている」とベネット氏は話す。その疑問とは、「AI技術にどのような意味があるのか」「規制を通じてAI技術の開発をどう方向付け、運命をどう制御するのか」という2つだという。

 GPT-4が前バージョンの「GPT-3」よりも大きく進化した事実が示すのは、「想像できないほどLLMが強力になる未来」(ベネット氏)だ。「人がAIの開発に取り組むのではなく、人とAIが協力してより強力なAIを作り出すことになりかねない」と同氏は付け加える。

 ベネット氏は、OpenAIが非常に短いスパンで、研究成果をGPT-3およびGPT-4として目に見える形にしたことに言及する。「これらのLLMを実装したのは、ほとんど人で構成するチームだ。人とAIが半々のチームや、AI主体のチームになったら、短期間で衝撃的に進化したものを目にすることになる可能性がある」(同氏)

 コンサルティング企業9sight Consultingの創設者バリー・デブリン氏も、中断を求める書簡に署名したIT業界幹部の一人だ。デブリン氏は、AI技術の主な問題は「生成AIの情報の集め方」だと考える。

 「生成AIは利益第一でこれほどの急成長を遂げている」とデブリン氏は話す。その一方で同氏は、生成AIは全く精査されていないインターネット上のテキストや画像のデータを参照しており、明らかな偏りや大きな欠陥があるとも指摘する。「これは大規模で無秩序な社会実験だ。生成AIが素晴らしい成果をもたらすとしても、利益よりもずっと大きな犠牲を払い、気候や人物、社会、経済に関する偽情報の拡散に使われることはほぼ間違いない」(同氏)

開発中断はAIの進歩を妨げる?

 ベンチャー投資家で、ベンチャーキャピタルRain Capitalの創設者でもあるチェンシー・ワン氏は、「書簡が訴えるAI技術の開発中断は、AI技術の高速な進化を鈍化させる」と話す。ワン氏が必要だと考えるのは、開発中断とは異なるアプローチだ。「急速な変化が社会や安全、プライバシーにもたらす影響を一歩引いて考察しながら、AI技術に関する動向に何らかの予防策を設けるべきだ」(同氏)

 生成AIを開発するための教師データとプライバシー対策に関して、研究者やAIベンダーが十分に措置を講じていない点をワン氏は問題の一つだと指摘する。同氏はAI技術の開発全体を中断させるのは欲張った考え方だと認めながらも、「AI技術が今後社会に与え得る影響への対策を打つためには、開発速度を落とし、AI技術がどう作用するのかを調査することが欠かせない」と話す。

 生成AIは意思決定を下すものではなく、新しい情報を生み出す存在だ。それを前提にしてワン氏は「生成AIが生み出した情報が正しいという保証が必要だ」と語る。


 次回は、AI技術の開発中止の代替案を挙げる専門家の意見を取り上げる。

TechTarget発 世界のインサイト&ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

譁ー逹€繝帙Ρ繧、繝医�繝シ繝代�

製品資料 Splunk Services Japan合同会社

金融サービス業界のレジリエンス向上、AI活用の有効性とその実装方法とは

イノベーションの加速とともに、セキュリティやレジリエンスの維持などさまざまな課題が顕在化している金融サービス業界。課題の中身を確認しながら、その解決策として期待されるAI活用の有効性や実装方法を紹介する。

市場調査・トレンド Splunk Services Japan合同会社

金融業界におけるAIと機械学習の活用が進む中、解消しておきたい5つの誤解とは

金融業界においてAIツールの活用が進んでいる。一方で、セキュリティ面の不安を抱えている金融サービス企業は少なくない。このような懸念は、リスクとメリットを考慮して、AIと機械学習の戦略を策定することで解消できる。

プレミアムコンテンツ アイティメディア株式会社

AIには代替できない「ITエンジニア職」はこれだ

AI技術は進化を続け、人間の仕事の一部はAIによって代替可能になる。AI技術に代替されにくいITエンジニアの職種とは何か。ITエンジニアはどのようなキャリアを歩むべきなのか。

製品資料 日本ヒューレット・パッカード合同会社

AI活用を加速させる、スーパーコンピューティングの実力

AI活用には処理スピードが重要となる。特に、大規模言語モデルのトレーニングでは、長期的に稼働できる強力なコンピュート性能も求められる。そこで注目したいのが、AIモデルのトレーニングを加速させるスーパーコンピューティングだ。

製品レビュー 日本ヒューレット・パッカード合同会社

開発や分析の多様なニーズに応えながら、組織全体にAIを導入する方法とは?

AIを使ったイノベーションの推進が期待されているが、組織全体にAIを導入するためにはいくつかの課題を解消することが必要だ。開発や分析を担うエンジニアやデータサイエンティストのニーズに応えながら、組織全体にAIを導入する方法とは?

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...

news130.jpg

Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...

news040.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年4月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。