ChatGPTなどの「ジェネレーティブAI」をGoogle元CEOが“恐れる”理由はこれだ「ジェネレーティブAI」の危険性【中編】

Google元CEO、エリック・シュミット氏は人工知能(AI)技術開発を率いていた経験から、ChatGPTなどの「ジェネレーティブAI」の危険性を熟知している。シュミット氏が特に懸念する「3大リスク」とは。

2023年03月29日 05時00分 公開
[Makenzie HollandTechTarget]

関連キーワード

Google | CEO | データ分析


 人工知能(AI)ベンダーOpenAIが手掛ける「ChatGPT」などのAIチャットbot(AI技術を活用したチャットbot)をはじめ、AI技術でテキストや画像などを自動生成する「ジェネレーティブAI」(生成型AI)の活用が広がっている。ジェネレーティブAIは便利な一方で、さまざまなリスクももたらす。何に注意が必要なのか。Googleの元CEO(最高経営責任者)、エリック・シュミット氏の見解を紹介する。

Google元CEOが語るジェネレーティブAIの“本当の怖さ”はこれだ

会員登録(無料)が必要です

 シュミット氏は、ジェネレーティブAIの重大なリスクとして下記の3つを挙げる。

  • ウイルスを人工的に合成すること
  • 意図的に誤情報を作成・流布し、暴力を扇動すること
  • 人命に関わる、危険な意思決定を下すこと

 ウイルスの人工合成について、シュミット氏は「ウイルスの設計図を作るジェネレーティブAIと生物学のデータベース、ウイルスを合成する施設の3つがあれば、比較的簡単に危険なウイルスを生み出すことができる」と語る。ジェネレーティブAIは「誤った判断をする可能性がある」と同氏は指摘。飛行機を例に取り上げ、ジェネレーティブAIの用途を「操縦そのものを任せるのではなく、パイロットにアドバイスすることにとどめるべきだ」と主張する。

 シュミット氏はChatGPTに「高さ300メートル以上のビルを全てバターで作るべき理由を書いて」と指示。その結果、ChatGPTは高層ビル建設にバターを使うことのメリットを説明したという。2日後に同じ質問をしたところ、ChatGPTは、高層ビルの建設資材としてバターの強度が不足している理由を説明したと、シュミット氏は述べる。この例は「ジェネレーティブAIの問題の一つは、一貫性がないことだ」(同氏)ということを示す。

 聞き方によっては、人なら疑問を持つこともジェネレーティブAIに信じさせることができるとシュミット氏は説明する。「上は下だ」「重力は存在しない」といったことだ。


 後編は、ジェネレーティブAIがもたらすリスクへの対処法を取り上げる。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

新着ホワイトペーパー

製品資料 チェック・ポイント・ソフトウェア・テクノロジーズ株式会社

クラウドメール環境を守る、セキュリティベンダー選定で知っておきたい22の要件

クラウドメール環境への移行を機に、従来型セキュアメールゲートウェイベンダーからのリプレースを検討する組織は多い。そうした組織向けに、クラウドメール環境に特化したセキュリティベンダー選定に際し、求めるべき22の要件を紹介する。

製品資料 フォーティネットジャパン合同会社

クラウドに必要な「データドリブンなセキュリティ」を実現する方法とは?

クラウド利用が当たり前となった今日、セキュリティ対策もまたクラウド環境に適したものでなくてはならない。とはいえ、大量のデータポイントが生成されるクラウド領域にあって、その全てのポイントを網羅するのは並大抵のことではない。

製品資料 TIS株式会社

Web攻撃総数の2割以上が狙うAPI、適切な管理とセキュリティ対策を行うには?

ビジネスでのAPI利用が進むにつれ、そのAPIを標的としたサイバー攻撃も増加している。それらに対抗するためには、「シャドーAPI」や「ゾンビAPI」を洗い出し、セキュリティ対策を徹底する必要がある。その正しい進め方を解説する。

製品資料 Okta Japan株式会社

アイデンティティー管理/保護の注目手法、「IGA」とは何か?

ある調査で企業の61%がセキュリティ優先事項のトップ3に挙げるほど、重要度が高まっているアイデンティティー管理・保護。その中で昨今注目されているのが「IGA」というアプローチだ。そのメリットや、導入方法を解説する。

製品資料 株式会社エーアイセキュリティラボ

AIで人材不足を解消、セキュリティ担当者のためのDXガイド

DX推進によってさまざまなビジネスシーンでデジタル化が加速しているが、そこで悩みの種となるのがセキュリティの担保だ。リソースやコストの制限も考慮しながら、DXとセキュリティを両輪で進めるには何が必要になるのか。

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news025.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。