ChatGPTなどのジェネレーティブAIが“有害”なのはなぜ? Google元CEOが語る「ジェネレーティブAI」の危険性【前編】

企業のビジネス活動や消費者の日常生活に溶け込みつつある「ジェネレーティブAI」。実は、ジェネレーティブAIにはさまざまなリスクが潜んでいると、Googleの元CEOは指摘する。何が危険なのか。

2023年03月22日 10時00分 公開
[Makenzie HollandTechTarget]

関連キーワード

Google | CEO | データ分析


 人工知能(AI)ベンダーOpenAIが手掛ける「ChatGPT」をはじめとする、AI技術を活用したチャットbot(以下、AIチャットbot)が台頭している。AIチャットbotは、AI技術でテキストや画像などを自動生成する「ジェネレーティブAI」(生成型AI)の一種だ。

 ジェネレーティブAIはエンドユーザーにさまざまな便利さをもたらす半面、意図的な誤情報の拡散やウイルスの人工合成などに悪用される恐れがある。Googleの元CEO(最高経営責任者)が指摘する、ジェネレーティブAIの可能性と危険性とは。

Google元CEOエリック・シュミット氏は“あれ”を心配している

 Googleの元CEO、エリック・シュミット氏は2023年1月、カーネギー国際平和基金(Carnegie Endowment for International Peace)のオンライン会議で講演。「ジェネレーティブAIは、作文やソースコードの記述などに使用できるレベルまで進化した」と語った。今後は、教育や医療、科学といったさまざまな分野で、ジェネレーティブAIが使われる可能性があるとシュミット氏はみる。同氏はマサチューセッツ工科大学(MIT:Massachusetts Institute of Technology)の客員研究員を務める。

 ジェネレーティブAIによって「世界に対する人の認識が変わる可能性がある」と、シュミット氏は語る。同氏はその例として、Appleの共同設立者であり前CEOの故スティーブ・ジョブズ氏と、ジョー・ローガン氏(米国の格闘技コメンテーター)との“会話”を挙げた。この会話は、AI技術が生成した架空の会話だ。シュミット氏は「話している内容や話し方の自然さのあまり、自分の人生が揺らぐようなショックを受けた」と言う。

 シュミット氏はGoogleのCEO時代に各種AIツール開発を経営トップとして束ねていた。その経験から、ジェネレーティブAIは「社会に大きく貢献をする可能性を持つ一方、害を与えることもある」と同氏は述べる。世の中には、ジェネレーティブAIを詐欺やサイバー攻撃、社会秩序の乱れに悪用する人がいる可能性があるからだ。ジェネレーティブAIの悪用を防ぐ手段は「まだ存在しない」と同氏は指摘。「使用に制限を設けるべきだ」と主張する。


 中編は、ジェネレーティブAIのリスクを考える。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news029.jpg

「痩せる」投稿が最も増える時期は?――ホットリンクとXがダイエットに関する口コミや検索行動を共同調査
ホットリンクはXと共同で、ダイエットに関するXでの口コミや検索行動を調査しました。

news101.jpg

郵送業務を電子化する理由 3位「テレワークへの対応」、2位「業務の迅速化・省力化」で1位は?――リンクス調査
キャンペーンのお知らせや新商品の紹介のダイレクトメールなど、個人宛てに送付する郵便...

news172.png

WACULが「AIアナリストSEO」を大幅刷新 コンテンツ作成×外部対策×内部対策×CVR改善をワンストップで支援
月額30万円でAI技術を活用したコンテンツ制作、約4万サイトの支援データ、熟練コンサルタ...