「ChatGPTの欠陥」発見で報奨金ゲット OpenAIが始めた制度とは?OpenAI製品の脆弱性発見を促す「バグバウンティ」の正体【前編】

「ChatGPT」をはじめとする同社製品の安全性確保のために、脆弱性の発見者に報奨金を支払う制度「バグバウンティ」を開始したOpenAI。どのような制度なのか。対象となる脆弱性と、ならない脆弱性の違いとは。

2023年06月24日 10時45分 公開
[Alexander CulafiTechTarget]

 人工知能(AI)技術ベンダーOpenAIは、2023年4月に脆弱(ぜいじゃく)性報奨金制度「バグバウンティ」(Bug Bounty)を開始した。AI技術の安全な利用を目指し、AIチャットbot「ChatGPT」などの同社製品に存在する脆弱性の報告を受け付ける。AI技術を狙った攻撃に対抗するには「透明性と、さまざまな人との協力が欠かせない」と同社は述べる。

報奨金がもらえる脆弱性の「対象」と「対象外」は?

 OpenAIは世界中のセキュリティ専門家やホワイトハッカー(倫理的ハッカー)の力を借り、同社製品の脆弱性情報を収集。報告者に対して報奨金を支払う。「セキュリティ専門家やホワイトハッカーの知恵が、当社製品の安全を守ることに直結する」とOpenAIは期待する。

 Bugcrowdの同名バグバウンティサービスサイトにOpenAIが設けたWebページによると、今回のバグバウンティの対象となるのは、認証機能やプラグインといったChatGPTの構成要素と、ChatGPTのAPI(アプリケーションプログラミングインタフェース)の脆弱性が中心だ。ただしChatGPTの中核である大規模言語モデル(LLM)に関連する脆弱性は、今回のバグバウンティの対象外だという。

 2015年設立のOpenAIは、急速に知名度を高めている。同社製品にはChatGPTの他、画像生成ツール「Dall・E」などがある。MicrosoftはOpenAIとの提携に注力し、Microsoft製品にAI技術の導入を進めている。こうしたことを背景に、OpenAIにとって自社製品をいかに安全にするかが重要になっている。


 後編は報奨金の金額など、OpenAIのバグバウンティの詳細を見る。

関連キーワード

人工知能 | 脆弱性 | セキュリティ


TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news035.jpg

低迷するナイキやアディダスを猛追する「HOKA」の “破壊的”ブランディングとは?
ランナーの間で好感度が低迷しているNikeに対し、ディスラプター(破壊的企業)として取...

news051.jpg

新紙幣の発行、3社に1社が日本経済に「プラスの影響」と回答――帝国データバンク調査
20年ぶりの新紙幣発行は日本経済にどのような影響を及ぼすのでしょうか。帝国データバン...

news196.png

WPPとIBMが生成AIを活用したB2Bマーケティング領域で連携
IBMのビジネス向けAIおよびデータプラットフォームである「watsonx」の機能を「WPP Open...