AIのリスクと共存する【前編】
“汎用人工知能（AGI）の脅威をAIベンダーが利用する” その議論の中身とは
専門家の中で、汎用人工知能（AGI）が人間の脅威になるという議論がある。一方、AIベンダーがその議論を利用して有利な状況を作り出す可能性があると指摘する声もある。AIの脅威に伴うAIベンダーへの懸念とは何か。
人間の認知能力を再現し、人間と同じようにあらゆるタスクを実行できる人工知能（AI）技術である「汎用（はんよう）人工知能」（AGI）が予想よりも早く実現し、人間の知能をしのぐと指摘する専門家がいる。一方で、AIやAGIの脅威をAIベンダーが利用しているという声もある。その内容を詳しく解説する。
AGIの脅威とITベンダーの関係とは
AGIに関する脅威を短期的な観点から捉えると、人間がAIシステムに過度に依存した結果起こり得る、災害や人災などが考えられる。具体的には、インターネット上で誤情報が氾濫する、テロリストが危険かつ安価な新しい武器を開発する、人間が仕事を失う、自動化されたAIが核戦争の引き金を引く、制御不能な殺人ドローンが暴れ回るなどだ。
深層信念ネットワーク（DBN：Deep Belief Network）を提唱した心理学者でコンピュータ科学者でもある「AIの父」、ジェフリー・ヒントン氏は、ChatGPTなどの生成AIやAIチャットbotの急速な能力向上について、2023年に警告を発している。同年5月、公共放送局BBCのインタビューで同氏は、「現時点では私の見る限り、AIは人間より高い知能を持っているわけではないが、近い将来持つ可能性がある」と述べた。同氏はその具体的な時期を30～50年後と予測していたが、5～10年に短縮されたとの見解も示した。
AIに対する懸念が広がる中、AIを使ったイノベーションを推進する企業の幹部や専門家からは、AIの開発や運用の一時停止を求める声が上がっている。2023年3月、米国の非営利団体Future of Life InstituteはOpenAIの「GPT-4」を超える能力を持つAIシステムの開発や運用の半年間の停止を求める署名活動を実施し、イーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏をはじめ、約3万3700人が署名した。
一方、AIの危険性を強調する論調は、企業が取り組むべき課題から人間の目をそらせているという指摘もある。その課題とは、AIモデルのバイアス（偏見）や「ハルシネーション」（幻覚）、プライバシーやセキュリティのリスクなどだ。このような指摘をする人々がさらに懸念しているのは、実際にAIの開発や運用が一時停止した場合に、大手AIベンダーが自社にとって有利な状況を作り出す可能性があることだ。
「ChatGPTを危険だと言いながら一般に公開するのは、課題を解決しないまま恐怖を利用してエンドユーザーから利益を得ようとする皮肉な策略にすぎない」。データ共有プラットフォームベンダーInruptのダビ・オッテンハイマー氏（トラストおよびデジタル倫理担当バイスプレジデント）はこう指摘する。「AIが人間にとって脅威となり得ると説く人々がエンドユーザーの信頼を悪用して利益を得ることの方がより大きなリスクだ」（オッテンハイマー氏）
後編は、AIのリスクを巡る議論の問題点や信頼できるAIの構築について紹介する。
TechTarget.AIとは
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget.AI
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国TechTargetの記事を翻訳して国内向けにお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
2
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
3
「テザリング依存」に潜む落とし穴 “遅いVPN”を解消するネット構築術
-
4
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
5
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
6
AI導入が失敗する“真犯人”は現場のマニュアル 7割が陥る「標準化」のわな
-
7
被害額は過去最高額 それでも「サイバー犯罪者が捕まらない」3つの理由
-
8
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
9
「IT運用・情報システム業務」に関するアンケート
-
10
Claude利用8割のGMO、AI人材の評価軸が「トークン管理」に変わった
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
9
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー