AIのリスクと共存する【前編】
“汎用人工知能（AGI）の脅威をAIベンダーが利用する” その議論の中身とは
専門家の中で、汎用人工知能（AGI）が人間の脅威になるという議論がある。一方、AIベンダーがその議論を利用して有利な状況を作り出す可能性があると指摘する声もある。AIの脅威に伴うAIベンダーへの懸念とは何か。
人間の認知能力を再現し、人間と同じようにあらゆるタスクを実行できる人工知能（AI）技術である「汎用（はんよう）人工知能」（AGI）が予想よりも早く実現し、人間の知能をしのぐと指摘する専門家がいる。一方で、AIやAGIの脅威をAIベンダーが利用しているという声もある。その内容を詳しく解説する。
AGIの脅威とITベンダーの関係とは
AGIに関する脅威を短期的な観点から捉えると、人間がAIシステムに過度に依存した結果起こり得る、災害や人災などが考えられる。具体的には、インターネット上で誤情報が氾濫する、テロリストが危険かつ安価な新しい武器を開発する、人間が仕事を失う、自動化されたAIが核戦争の引き金を引く、制御不能な殺人ドローンが暴れ回るなどだ。
深層信念ネットワーク（DBN：Deep Belief Network）を提唱した心理学者でコンピュータ科学者でもある「AIの父」、ジェフリー・ヒントン氏は、ChatGPTなどの生成AIやAIチャットbotの急速な能力向上について、2023年に警告を発している。同年5月、公共放送局BBCのインタビューで同氏は、「現時点では私の見る限り、AIは人間より高い知能を持っているわけではないが、近い将来持つ可能性がある」と述べた。同氏はその具体的な時期を30～50年後と予測していたが、5～10年に短縮されたとの見解も示した。
AIに対する懸念が広がる中、AIを使ったイノベーションを推進する企業の幹部や専門家からは、AIの開発や運用の一時停止を求める声が上がっている。2023年3月、米国の非営利団体Future of Life InstituteはOpenAIの「GPT-4」を超える能力を持つAIシステムの開発や運用の半年間の停止を求める署名活動を実施し、イーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏をはじめ、約3万3700人が署名した。
一方、AIの危険性を強調する論調は、企業が取り組むべき課題から人間の目をそらせているという指摘もある。その課題とは、AIモデルのバイアス（偏見）や「ハルシネーション」（幻覚）、プライバシーやセキュリティのリスクなどだ。このような指摘をする人々がさらに懸念しているのは、実際にAIの開発や運用が一時停止した場合に、大手AIベンダーが自社にとって有利な状況を作り出す可能性があることだ。
「ChatGPTを危険だと言いながら一般に公開するのは、課題を解決しないまま恐怖を利用してエンドユーザーから利益を得ようとする皮肉な策略にすぎない」。データ共有プラットフォームベンダーInruptのダビ・オッテンハイマー氏（トラストおよびデジタル倫理担当バイスプレジデント）はこう指摘する。「AIが人間にとって脅威となり得ると説く人々がエンドユーザーの信頼を悪用して利益を得ることの方がより大きなリスクだ」（オッテンハイマー氏）
後編は、AIのリスクを巡る議論の問題点や信頼できるAIの構築について紹介する。
TechTarget.AIとは
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget.AI
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国TechTargetの記事を翻訳して国内向けにお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社クレオ] IT部門を“価値創造組織”へ転換 IT管理プロセスの改革で戦略的リソースを確保 -
製品資料
[株式会社クレオ] Excel管理が限界に――ITサービス管理の脱・属人化と運用高度化を実現する方法 -
製品資料
[株式会社クレオ] 西武グループやイオングループも実践 事例に学ぶ「ITサービスデスク業務」改善 -
製品レビュー
[株式会社クレオ] 「使われないITシステム」から脱却 現場が求める業務改善を実現する方法 -
事例
[TXOne Networks Japan合同会社] 工場を止めずにOTの潜在リスクを可視化 事例に学ぶOTセキュリティの第一歩
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
2
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
3
IT業界の女性は9割が10年で消える 人材枯渇を招く“見えない壁”の正体
-
4
世界PC出荷数が20％急減 情シスを直撃するPC先行調達の反動と価格高騰
-
5
脱VMwareか、継続か？ 仮想化ソフト主要6製品の運用管理と統制機能を徹底比較
-
6
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
7
326のIPアドレスで1200超のアクセス AIエージェント関与が疑われる攻撃の中身
-
8
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
9
「業務改善とツール活用」に関するアンケート
-
10
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
4
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
5
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
6
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
7
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
8
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは？
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
ランサムウェア攻撃“究極の対策”はこれだ
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー