「AIの開発中断」要請は正しいのか【前編】
「GPT-4超えのAI開発を中断せよ」との要請が浴びた“当然の反発”
AI技術が急成長を遂げる中、非営利団体がAI技術の開発を6カ月間停止するよう求める書簡を公開した。これに賛同する著名人がいる一方、要請を「実現不可能」だと考える専門家の意見とは。
人工知能（AI）技術の発達が目覚ましい。AI技術でテキストや画像などを自動生成する「生成AI」（ジェネレーティブAI）ツールと、その基になる大規模言語モデル（LLM）の人気の高まりを、複数のAI専門家は懸念している。
2023年3月下旬、1500人を超えるAI研究者やITリーダーが、AI技術のリスク軽減を目指す非営利団体Future of Life Instituteの公開書簡に署名した。署名者には電気自動車（EV）メーカーTeslaのCEOイーロン・マスク氏、AI分野で著名なスチュアート・ラッセル氏、ゲイリー・マーカス氏などが名を連ねる。
この書簡は、AI技術に関する大規模な実験や研究を、少なくとも6カ月間停止するようAI研究所やAIベンダーに要請するものだ。「強力なAI技術は、有益かつリスクに対処できるという確信を得てから開発すべきだ」と書簡は主張する。同書簡が一つの基準に据えているのは、AIベンダーOpenAIのLLM「GPT-4」だ。
AI開発中断は「理想論に過ぎない」の真意
Future of Life Instituteと署名者は、GPT-4よりも強力なAIモデルの訓練を停止することを研究所やAI専門家に要求している。停止期間中には、独立系の外部専門家による、高度なAIモデルの設計と開発に関する安全プロトコルの制定に参画することも求めている。
AI技術のリスクの緩和に力を注ぐFuture of Life Instituteの目標について、実現不可能だと感じる専門家もいる。コーネル大学（Cornell University）のコーネル技術政策研究所（Cornell Tech Policy Institute）で所長を務めるサラ・クレプス氏は「これは囚人のジレンマだ」と話す。囚人のジレンマは、「自己の利益を追求する2人の当事者が最善の結果を生み出すことはない」という理論だ。「AI技術に関係する当事者の行為を、まとめて中断させる方法はない」とクレプス氏は述べる。
「核兵器のない世界」を実現するために、オバマ元米大統領は軍備縮小を呼び掛けた。「Future of Life Instituteの書簡はそれを想起させる」とクレプス氏は語る。オバマ氏は大統領の就任演説において、米国が核兵器を放棄することを誓ったが、「他の全ての国が核兵器を放棄すれば」という条件を付けた。
GPT-4よりも強力なAIモデルの訓練を全ての研究所やAIベンダーに中断させることはただでさえ難しい。それだけではなく、他者は訓練を中断していないことに研究所やAIベンダーが気付いたら、ほとんどは訓練を再開するはずだ。「Future of Life Instituteの提言は理論上では素晴らしく思えるが、全く現実的ではない」とクレプス氏は指摘する。
一方で、生成AIをはじめとするAI技術を手掛けるベンダーの幹部が、Future of Life Instituteの書簡に署名している。その一例がオープンソースAIベンダーStability AIだ。同社は画像の生成AI「Stable Diffusion」で広く知られている。「オープンな開発という当社の取り組みに沿って、関係者全員にメリットがある解決策を生み出すために新たな課題についての議論を重ねることは歓迎だ」と同社は意見を示す。
Future of Life Instituteの書簡は政府に対しても、GPT-4よりも高度なAIモデルが世に出た場合に、AI技術の開発停止期間を課す措置を求めている。
「これは大きな要請だ」。そう語るのは、ノースイースタン大学（Northeastern University）で“責任あるAI”の教育カリキュラムおよびビジネスリード担当ディレクターを務めるマイケル・ベネット氏だ。「どのような技術に関しても、予期しないことが起きるのはほぼ当たり前だ。これまでも社会に新たな技術を導入することで予期しない結果が起きている」。ベネット氏はそう述べる。
次回は、AI技術の急速な発展を懸念する専門家の意見を紹介する。
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
2
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
3
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
4
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
5
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
6
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
7
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
8
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
9
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
-
10
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
5
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
6
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
9
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー