AIのリスクと共存する【前編】

“汎用人工知能（AGI）の脅威をAIベンダーが利用する”　その議論の中身とは

専門家の中で、汎用人工知能（AGI）が人間の脅威になるという議論がある。一方、AIベンダーがその議論を利用して有利な状況を作り出す可能性があると指摘する声もある。AIの脅威に伴うAIベンダーへの懸念とは何か。

公開 2025年04月05日 06時00分

[TechTarget]

印刷する連載新着通知を受け取る

　人間の認知能力を再現し、人間と同じようにあらゆるタスクを実行できる人工知能（AI）技術である「汎用（はんよう）人工知能」（AGI）が予想よりも早く実現し、人間の知能をしのぐと指摘する専門家がいる。一方で、AIやAGIの脅威をAIベンダーが利用しているという声もある。その内容を詳しく解説する。

AGIの脅威とITベンダーの関係とは

併せて読みたいお薦め記事

AGIとは何か

　AGIに関する脅威を短期的な観点から捉えると、人間がAIシステムに過度に依存した結果起こり得る、災害や人災などが考えられる。具体的には、インターネット上で誤情報が氾濫する、テロリストが危険かつ安価な新しい武器を開発する、人間が仕事を失う、自動化されたAIが核戦争の引き金を引く、制御不能な殺人ドローンが暴れ回るなどだ。

　深層信念ネットワーク（DBN：Deep Belief Network）を提唱した心理学者でコンピュータ科学者でもある「AIの父」、ジェフリー・ヒントン氏は、ChatGPTなどの生成AIやAIチャットbotの急速な能力向上について、2023年に警告を発している。同年5月、公共放送局BBCのインタビューで同氏は、「現時点では私の見る限り、AIは人間より高い知能を持っているわけではないが、近い将来持つ可能性がある」と述べた。同氏はその具体的な時期を30～50年後と予測していたが、5～10年に短縮されたとの見解も示した。

　AIに対する懸念が広がる中、AIを使ったイノベーションを推進する企業の幹部や専門家からは、AIの開発や運用の一時停止を求める声が上がっている。2023年3月、米国の非営利団体Future of Life InstituteはOpenAIの「GPT-4」を超える能力を持つAIシステムの開発や運用の半年間の停止を求める署名活動を実施し、イーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏をはじめ、約3万3700人が署名した。

　一方、AIの危険性を強調する論調は、企業が取り組むべき課題から人間の目をそらせているという指摘もある。その課題とは、AIモデルのバイアス（偏見）や「ハルシネーション」（幻覚）、プライバシーやセキュリティのリスクなどだ。このような指摘をする人々がさらに懸念しているのは、実際にAIの開発や運用が一時停止した場合に、大手AIベンダーが自社にとって有利な状況を作り出す可能性があることだ。

　「ChatGPTを危険だと言いながら一般に公開するのは、課題を解決しないまま恐怖を利用してエンドユーザーから利益を得ようとする皮肉な策略にすぎない」。データ共有プラットフォームベンダーInruptのダビ・オッテンハイマー氏（トラストおよびデジタル倫理担当バイスプレジデント）はこう指摘する。「AIが人間にとって脅威となり得ると説く人々がエンドユーザーの信頼を悪用して利益を得ることの方がより大きなリスクだ」（オッテンハイマー氏）

　後編は、AIのリスクを巡る議論の問題点や信頼できるAIの構築について紹介する。