ChatGPTなどのジェネレーティブAIが“有害”なのはなぜ? Google元CEOが語る「ジェネレーティブAI」の危険性【前編】

企業のビジネス活動や消費者の日常生活に溶け込みつつある「ジェネレーティブAI」。実は、ジェネレーティブAIにはさまざまなリスクが潜んでいると、Googleの元CEOは指摘する。何が危険なのか。

2023年03月22日 10時00分 公開
[Makenzie HollandTechTarget]

関連キーワード

Google | CEO | データ分析


 人工知能(AI)ベンダーOpenAIが手掛ける「ChatGPT」をはじめとする、AI技術を活用したチャットbot(以下、AIチャットbot)が台頭している。AIチャットbotは、AI技術でテキストや画像などを自動生成する「ジェネレーティブAI」(生成型AI)の一種だ。

 ジェネレーティブAIはエンドユーザーにさまざまな便利さをもたらす半面、意図的な誤情報の拡散やウイルスの人工合成などに悪用される恐れがある。Googleの元CEO(最高経営責任者)が指摘する、ジェネレーティブAIの可能性と危険性とは。

Google元CEOエリック・シュミット氏は“あれ”を心配している

 Googleの元CEO、エリック・シュミット氏は2023年1月、カーネギー国際平和基金(Carnegie Endowment for International Peace)のオンライン会議で講演。「ジェネレーティブAIは、作文やソースコードの記述などに使用できるレベルまで進化した」と語った。今後は、教育や医療、科学といったさまざまな分野で、ジェネレーティブAIが使われる可能性があるとシュミット氏はみる。同氏はマサチューセッツ工科大学(MIT:Massachusetts Institute of Technology)の客員研究員を務める。

 ジェネレーティブAIによって「世界に対する人の認識が変わる可能性がある」と、シュミット氏は語る。同氏はその例として、Appleの共同設立者であり前CEOの故スティーブ・ジョブズ氏と、ジョー・ローガン氏(米国の格闘技コメンテーター)との“会話”を挙げた。この会話は、AI技術が生成した架空の会話だ。シュミット氏は「話している内容や話し方の自然さのあまり、自分の人生が揺らぐようなショックを受けた」と言う。

 シュミット氏はGoogleのCEO時代に各種AIツール開発を経営トップとして束ねていた。その経験から、ジェネレーティブAIは「社会に大きく貢献をする可能性を持つ一方、害を与えることもある」と同氏は述べる。世の中には、ジェネレーティブAIを詐欺やサイバー攻撃、社会秩序の乱れに悪用する人がいる可能性があるからだ。ジェネレーティブAIの悪用を防ぐ手段は「まだ存在しない」と同氏は指摘。「使用に制限を設けるべきだ」と主張する。


 中編は、ジェネレーティブAIのリスクを考える。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news018.jpg

Cookie廃止で広告主とデータプロバイダ、媒体社にこれから起きることとその対策
連載の最後に、サードパーティーCookie廃止が広告主と媒体社それぞれに与える影響と今後...

news100.jpg

メタバース生活者定点調査2023 メタバース利用経験は横ばいでも認知は向上
博報堂DYホールディングスによる「メタバース生活者定点調査2023」の結果です。メタバー...

news165.jpg

GoogleのBIツールからLINEにノーコードでデータ連携 primeNumberが「trocco action for Looker」を提供
primeNumberが「trocco action」の提供を開始。第一弾としてGoogleのBIツール「Looker」...