AIのリスクと共存する【前編】
“汎用人工知能(AGI)の脅威をAIベンダーが利用する” その議論の中身とは
専門家の中で、汎用人工知能(AGI)が人間の脅威になるという議論がある。一方、AIベンダーがその議論を利用して有利な状況を作り出す可能性があると指摘する声もある。AIの脅威に伴うAIベンダーへの懸念とは何か。
人間の認知能力を再現し、人間と同じようにあらゆるタスクを実行できる人工知能(AI)技術である「汎用(はんよう)人工知能」(AGI)が予想よりも早く実現し、人間の知能をしのぐと指摘する専門家がいる。一方で、AIやAGIの脅威をAIベンダーが利用しているという声もある。その内容を詳しく解説する。
AGIの脅威とITベンダーの関係とは
AGIに関する脅威を短期的な観点から捉えると、人間がAIシステムに過度に依存した結果起こり得る、災害や人災などが考えられる。具体的には、インターネット上で誤情報が氾濫する、テロリストが危険かつ安価な新しい武器を開発する、人間が仕事を失う、自動化されたAIが核戦争の引き金を引く、制御不能な殺人ドローンが暴れ回るなどだ。
深層信念ネットワーク(DBN:Deep Belief Network)を提唱した心理学者でコンピュータ科学者でもある「AIの父」、ジェフリー・ヒントン氏は、ChatGPTなどの生成AIやAIチャットbotの急速な能力向上について、2023年に警告を発している。同年5月、公共放送局BBCのインタビューで同氏は、「現時点では私の見る限り、AIは人間より高い知能を持っているわけではないが、近い将来持つ可能性がある」と述べた。同氏はその具体的な時期を30~50年後と予測していたが、5~10年に短縮されたとの見解も示した。
AIに対する懸念が広がる中、AIを使ったイノベーションを推進する企業の幹部や専門家からは、AIの開発や運用の一時停止を求める声が上がっている。2023年3月、米国の非営利団体Future of Life InstituteはOpenAIの「GPT-4」を超える能力を持つAIシステムの開発や運用の半年間の停止を求める署名活動を実施し、イーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏をはじめ、約3万3700人が署名した。
一方、AIの危険性を強調する論調は、企業が取り組むべき課題から人間の目をそらせているという指摘もある。その課題とは、AIモデルのバイアス(偏見)や「ハルシネーション」(幻覚)、プライバシーやセキュリティのリスクなどだ。このような指摘をする人々がさらに懸念しているのは、実際にAIの開発や運用が一時停止した場合に、大手AIベンダーが自社にとって有利な状況を作り出す可能性があることだ。
「ChatGPTを危険だと言いながら一般に公開するのは、課題を解決しないまま恐怖を利用してエンドユーザーから利益を得ようとする皮肉な策略にすぎない」。データ共有プラットフォームベンダーInruptのダビ・オッテンハイマー氏(トラストおよびデジタル倫理担当バイスプレジデント)はこう指摘する。「AIが人間にとって脅威となり得ると説く人々がエンドユーザーの信頼を悪用して利益を得ることの方がより大きなリスクだ」(オッテンハイマー氏)
後編は、AIのリスクを巡る議論の問題点や信頼できるAIの構築について紹介する。
TechTarget.AIとは
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget.AI
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国TechTargetの記事を翻訳して国内向けにお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社キーエンス] RPAは「どれも同じ」ではない 過去に導入を諦めた企業が“失敗した理由”とは -
製品資料
[株式会社キーエンス] 疲れ知らずの単純作業ロボをサクッと作成、“自分一人”でデスクワークを効率化 -
製品資料
[ニュータニックス・ジャパン合同会社] クラウドネイティブ戦略ガイド:Kubernetesクラスタ運用を最適化する方法を解説 -
事例
[Neatframe株式会社] オフィス移転を好機に Sansanに学ぶ「会議環境」変革の秘訣 -
製品資料
[NECパーソナルコンピュータ株式会社] 「PCが動きません」で情シスが負担する“隠れコスト”はどれほどか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
2
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
-
3
従来の「外注」では解決しない情シスのリソース問題を突破する手だて
-
4
「ChatGPT」は検索しまくり、「Gemini」は淡泊? AI検索の知られざる実態
-
5
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
6
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
7
「Copilot」がIT予算を食いつぶす? 高額請求を招く課金体系と節約術
-
8
情シスに転職して活躍する人、孤立する人 専門エージェントが見た分かれ目
-
9
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
10
AI時代のPC選定は“適材適所” 情シスが押さえておきたい3つの選択肢とは?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー