「ジェネレーティブAI」の危険性【前編】

ChatGPTなどのジェネレーティブAIが“有害”なのはなぜ？　Google元CEOが語る

企業のビジネス活動や消費者の日常生活に溶け込みつつある「ジェネレーティブAI」。実は、ジェネレーティブAIにはさまざまなリスクが潜んでいると、Googleの元CEOは指摘する。何が危険なのか。

公開 2023年03月22日 10時01分

[TechTarget]

印刷する連載新着通知を受け取る

　人工知能（AI）ベンダーOpenAIが手掛ける「ChatGPT」をはじめとする、AI技術を活用したチャットbot（以下、AIチャットbot）が台頭している。AIチャットbotは、AI技術でテキストや画像などを自動生成する「ジェネレーティブAI」（生成型AI）の一種だ。

　ジェネレーティブAIはエンドユーザーにさまざまな便利さをもたらす半面、意図的な誤情報の拡散やウイルスの人工合成などに悪用される恐れがある。Googleの元CEO（最高経営責任者）が指摘する、ジェネレーティブAIの可能性と危険性とは。

Google元CEOエリック・シュミット氏は“あれ”を心配している

併せて読みたいお薦め記事

人工知能（AI）を活用する際の注意点とは

　Googleの元CEO、エリック・シュミット氏は2023年1月、カーネギー国際平和基金（Carnegie Endowment for International Peace）のオンライン会議で講演。「ジェネレーティブAIは、作文やソースコードの記述などに使用できるレベルまで進化した」と語った。今後は、教育や医療、科学といったさまざまな分野で、ジェネレーティブAIが使われる可能性があるとシュミット氏はみる。同氏はマサチューセッツ工科大学（MIT：Massachusetts Institute of Technology）の客員研究員を務める。

　ジェネレーティブAIによって「世界に対する人の認識が変わる可能性がある」と、シュミット氏は語る。同氏はその例として、Appleの共同設立者であり前CEOの故スティーブ・ジョブズ氏と、ジョー・ローガン氏（米国の格闘技コメンテーター）との“会話”を挙げた。この会話は、AI技術が生成した架空の会話だ。シュミット氏は「話している内容や話し方の自然さのあまり、自分の人生が揺らぐようなショックを受けた」と言う。

　シュミット氏はGoogleのCEO時代に各種AIツール開発を経営トップとして束ねていた。その経験から、ジェネレーティブAIは「社会に大きく貢献をする可能性を持つ一方、害を与えることもある」と同氏は述べる。世の中には、ジェネレーティブAIを詐欺やサイバー攻撃、社会秩序の乱れに悪用する人がいる可能性があるからだ。ジェネレーティブAIの悪用を防ぐ手段は「まだ存在しない」と同氏は指摘。「使用に制限を設けるべきだ」と主張する。

　中編は、ジェネレーティブAIのリスクを考える。