専門家の中で、汎用人工知能（AGI）が人間の脅威になるという議論がある。一方、AIベンダーがその議論を利用して有利な状況を作り出す可能性があると指摘する声もある。AIの脅威に伴うAIベンダーへの懸念とは何か。
人間の認知能力を再現し、人間と同じようにあらゆるタスクを実行できる人工知能（AI）技術である「汎用（はんよう）人工知能」（AGI）が予想よりも早く実現し、人間の知能をしのぐと指摘する専門家がいる。一方で、AIやAGIの脅威をAIベンダーが利用しているという声もある。その内容を詳しく解説する。
AGIに関する脅威を短期的な観点から捉えると、人間がAIシステムに過度に依存した結果起こり得る、災害や人災などが考えられる。具体的には、インターネット上で誤情報が氾濫する、テロリストが危険かつ安価な新しい武器を開発する、人間が仕事を失う、自動化されたAIが核戦争の引き金を引く、制御不能な殺人ドローンが暴れ回るなどだ。
深層信念ネットワーク（DBN：Deep Belief Network）を提唱した心理学者でコンピュータ科学者でもある「AIの父」、ジェフリー・ヒントン氏は、ChatGPTなどの生成AIやAIチャットbotの急速な能力向上について、2023年に警告を発している。同年5月、公共放送局BBCのインタビューで同氏は、「現時点では私の見る限り、AIは人間より高い知能を持っているわけではないが、近い将来持つ可能性がある」と述べた。同氏はその具体的な時期を30～50年後と予測していたが、5～10年に短縮されたとの見解も示した。
AIに対する懸念が広がる中、AIを使ったイノベーションを推進する企業の幹部や専門家からは、AIの開発や運用の一時停止を求める声が上がっている。2023年3月、米国の非営利団体Future of Life InstituteはOpenAIの「GPT-4」を超える能力を持つAIシステムの開発や運用の半年間の停止を求める署名活動を実施し、イーロン・マスク氏やAppleの共同設立者スティーブ・ウォズニアック氏をはじめ、約3万3700人が署名した。
一方、AIの危険性を強調する論調は、企業が取り組むべき課題から人間の目をそらせているという指摘もある。その課題とは、AIモデルのバイアス（偏見）や「ハルシネーション」（幻覚）、プライバシーやセキュリティのリスクなどだ。このような指摘をする人々がさらに懸念しているのは、実際にAIの開発や運用が一時停止した場合に、大手AIベンダーが自社にとって有利な状況を作り出す可能性があることだ。
「ChatGPTを危険だと言いながら一般に公開するのは、課題を解決しないまま恐怖を利用してエンドユーザーから利益を得ようとする皮肉な策略にすぎない」。データ共有プラットフォームベンダーInruptのダビ・オッテンハイマー氏（トラストおよびデジタル倫理担当バイスプレジデント）はこう指摘する。「AIが人間にとって脅威となり得ると説く人々がエンドユーザーの信頼を悪用して利益を得ることの方がより大きなリスクだ」（オッテンハイマー氏）
後編は、AIのリスクを巡る議論の問題点や信頼できるAIの構築について紹介する。
TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
顧客体験（CX）を向上させるための手段として、広く注目されつつあるAIだが、実際にFAQやチャット／チャットbotにAIを導入することで、CXはどれだけ高まるのか。次世代のカスタマーサービスの作り方と、そのメリットを探る。
営業資料や議事録といった資料作成において、生成AIへの期待が高まっている。中でも注目したいのがZoomの生成AI機能だ。会議データからの資料作成は、生成AI活用でどのように効率化されるのか。動画で紹介する。
ビジネスパーソンが直面する課題としてしばしば挙げられるのがオンライン会議における内容のキャッチアップだ。その解消に向け生成AIアシスタントへの期待が高まっている。そこでZoomに搭載されたAI機能を基に、その活用方法を紹介する。
イノベーションの加速とともに、セキュリティやレジリエンスの維持などさまざまな課題が顕在化している金融サービス業界。課題の中身を確認しながら、その解決策として期待されるAI活用の有効性や実装方法を紹介する。
金融業界においてAIツールの活用が進んでいる。一方で、セキュリティ面の不安を抱えている金融サービス企業は少なくない。このような懸念は、リスクとメリットを考慮して、AIと機械学習の戦略を策定することで解消できる。
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア（株）が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年4月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は？
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...
「マーケティングオートメーション」 国内売れ筋TOP10（2025年4月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
