AI技術が急成長を遂げる中、非営利団体がAI技術の開発を6カ月間停止するよう求める書簡を公開した。この要請にさまざまな専門家が賛同する一方で、「実現不可能」だと考える関係者もいる。その意見とは。
人工知能（AI）技術でテキストや画像などを自動生成する「生成AI」（ジェネレーティブAI）など、AI技術が急速に発展していることに懸念を示す人々がいる。AI技術のリスク軽減を目指す非営利団体Future of Life Instituteは、AI技術に関する大規模な実験や研究を、少なくとも6カ月間停止するようAI研究所やAIベンダーに要請する公開書簡を発表した。
Future of Life Instituteの書簡には、1500人を超えるAI研究者やITリーダーが署名した。ただし書簡には、実現が相当難しいと考えられる条件が含まれており、楽観的ではない見方を示す専門家もいる。
「書簡に含まれる条件の大半はAI専門家が提唱したものだ。この事実は、最近のAI技術を巡る熱狂に変化をもたらし得る」。ノースイースタン大学（Northeastern University）で“責任あるAI”の教育カリキュラムおよびビジネスリード担当ディレクターを務めるマイケル・ベネット氏はそう話す。
AIベンダーOpenAIのAIチャットbot（AI技術を活用したチャットbot）「ChatGPT」や、その基になっているLLM（大規模言語モデル）「GPT-4」、GoogleのAIチャットbot「Bard」など、生成AIやそれを基にしたサービスが次々に登場している。そのたびにAI技術を巡る激しい競争が起こってきた。その結果、AI技術に対する一般消費者、政府機関、企業の注目が高まっている。生成AIに関する話題の中では、予想外に急速な技術の進化を懸念する声が上がることもあるが、議論のほとんどは熱狂的なものだ。
「署名者はAI技術が生み出す力を見極め、AI技術に関する疑問を解消したいと考えている」とベネット氏は話す。その疑問とは、「AI技術にどのような意味があるのか」「規制を通じてAI技術の開発をどう方向付け、運命をどう制御するのか」という2つだという。
GPT-4が前バージョンの「GPT-3」よりも大きく進化した事実が示すのは、「想像できないほどLLMが強力になる未来」（ベネット氏）だ。「人がAIの開発に取り組むのではなく、人とAIが協力してより強力なAIを作り出すことになりかねない」と同氏は付け加える。
ベネット氏は、OpenAIが非常に短いスパンで、研究成果をGPT-3およびGPT-4として目に見える形にしたことに言及する。「これらのLLMを実装したのは、ほとんど人で構成するチームだ。人とAIが半々のチームや、AI主体のチームになったら、短期間で衝撃的に進化したものを目にすることになる可能性がある」（同氏）
コンサルティング企業9sight Consultingの創設者バリー・デブリン氏も、中断を求める書簡に署名したIT業界幹部の一人だ。デブリン氏は、AI技術の主な問題は「生成AIの情報の集め方」だと考える。
「生成AIは利益第一でこれほどの急成長を遂げている」とデブリン氏は話す。その一方で同氏は、生成AIは全く精査されていないインターネット上のテキストや画像のデータを参照しており、明らかな偏りや大きな欠陥があるとも指摘する。「これは大規模で無秩序な社会実験だ。生成AIが素晴らしい成果をもたらすとしても、利益よりもずっと大きな犠牲を払い、気候や人物、社会、経済に関する偽情報の拡散に使われることはほぼ間違いない」（同氏）
ベンチャー投資家で、ベンチャーキャピタルRain Capitalの創設者でもあるチェンシー・ワン氏は、「書簡が訴えるAI技術の開発中断は、AI技術の高速な進化を鈍化させる」と話す。ワン氏が必要だと考えるのは、開発中断とは異なるアプローチだ。「急速な変化が社会や安全、プライバシーにもたらす影響を一歩引いて考察しながら、AI技術に関する動向に何らかの予防策を設けるべきだ」（同氏）
生成AIを開発するための教師データとプライバシー対策に関して、研究者やAIベンダーが十分に措置を講じていない点をワン氏は問題の一つだと指摘する。同氏はAI技術の開発全体を中断させるのは欲張った考え方だと認めながらも、「AI技術が今後社会に与え得る影響への対策を打つためには、開発速度を落とし、AI技術がどう作用するのかを調査することが欠かせない」と話す。
生成AIは意思決定を下すものではなく、新しい情報を生み出す存在だ。それを前提にしてワン氏は「生成AIが生み出した情報が正しいという保証が必要だ」と語る。
次回は、AI技術の開発中止の代替案を挙げる専門家の意見を取り上げる。
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア（株）が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
「ECプラットフォーム」売れ筋TOP10（2025年3月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
Androidの偽アプリを使った新たな広告詐欺、広告主にもユーザーにも大迷惑な手口とは？
疑いを持たないユーザーと広告ネットワークを巧みに悪用する、高度に組織化された広告詐...
在任期間は短くても将来は明るい？ データが示すCMO職のさらなる出世の可能性
CMOの約3分の2はポジションを離れた後、社内で昇進するか、他のブランドで同等またはより...
ITmediaはアイティメディア株式会社の登録商標です。
