「書簡に含まれる条件の大半はAI専門家が提唱したものだ。この事実は、最近のAI技術を巡る熱狂に変化をもたらし得る」。ノースイースタン大学（Northeastern University）で“責任あるAI”の教育カリキュラムおよびビジネスリード担当ディレクターを務めるマイケル・ベネット氏はそう話す。

　AIベンダーOpenAIのAIチャットbot（AI技術を活用したチャットbot）「ChatGPT」や、その基になっているLLM（大規模言語モデル）「GPT-4」、GoogleのAIチャットbot「Bard」など、生成AIやそれを基にしたサービスが次々に登場している。そのたびにAI技術を巡る激しい競争が起こってきた。その結果、AI技術に対する一般消費者、政府機関、企業の注目が高まっている。生成AIに関する話題の中では、予想外に急速な技術の進化を懸念する声が上がることもあるが、議論のほとんどは熱狂的なものだ。

　「署名者はAI技術が生み出す力を見極め、AI技術に関する疑問を解消したいと考えている」とベネット氏は話す。その疑問とは、「AI技術にどのような意味があるのか」「規制を通じてAI技術の開発をどう方向付け、運命をどう制御するのか」という2つだという。

　GPT-4が前バージョンの「GPT-3」よりも大きく進化した事実が示すのは、「想像できないほどLLMが強力になる未来」（ベネット氏）だ。「人がAIの開発に取り組むのではなく、人とAIが協力してより強力なAIを作り出すことになりかねない」と同氏は付け加える。

　ベネット氏は、OpenAIが非常に短いスパンで、研究成果をGPT-3およびGPT-4として目に見える形にしたことに言及する。「これらのLLMを実装したのは、ほとんど人で構成するチームだ。人とAIが半々のチームや、AI主体のチームになったら、短期間で衝撃的に進化したものを目にすることになる可能性がある」（同氏）

　コンサルティング企業9sight Consultingの創設者バリー・デブリン氏も、中断を求める書簡に署名したIT業界幹部の一人だ。デブリン氏は、AI技術の主な問題は「生成AIの情報の集め方」だと考える。

　「生成AIは利益第一でこれほどの急成長を遂げている」とデブリン氏は話す。その一方で同氏は、生成AIは全く精査されていないインターネット上のテキストや画像のデータを参照しており、明らかな偏りや大きな欠陥があるとも指摘する。「これは大規模で無秩序な社会実験だ。生成AIが素晴らしい成果をもたらすとしても、利益よりもずっと大きな犠牲を払い、気候や人物、社会、経済に関する偽情報の拡散に使われることはほぼ間違いない」（同氏）

開発中断はAIの進歩を妨げる？

　ベンチャー投資家で、ベンチャーキャピタルRain Capitalの創設者でもあるチェンシー・ワン氏は、「書簡が訴えるAI技術の開発中断は、AI技術の高速な進化を鈍化させる」と話す。ワン氏が必要だと考えるのは、開発中断とは異なるアプローチだ。「急速な変化が社会や安全、プライバシーにもたらす影響を一歩引いて考察しながら、AI技術に関する動向に何らかの予防策を設けるべきだ」（同氏）

　生成AIを開発するための教師データとプライバシー対策に関して、研究者やAIベンダーが十分に措置を講じていない点をワン氏は問題の一つだと指摘する。同氏はAI技術の開発全体を中断させるのは欲張った考え方だと認めながらも、「AI技術が今後社会に与え得る影響への対策を打つためには、開発速度を落とし、AI技術がどう作用するのかを調査することが欠かせない」と話す。

　生成AIは意思決定を下すものではなく、新しい情報を生み出す存在だ。それを前提にしてワン氏は「生成AIが生み出した情報が正しいという保証が必要だ」と語る。

　次回は、AI技術の開発中止の代替案を挙げる専門家の意見を取り上げる。