検索
特集/連載

「ChatGPTの欠陥」発見で報奨金ゲット OpenAIが始めた制度とは?OpenAI製品の脆弱性発見を促す「バグバウンティ」の正体【前編】

「ChatGPT」をはじめとする同社製品の安全性確保のために、脆弱性の発見者に報奨金を支払う制度「バグバウンティ」を開始したOpenAI。どのような制度なのか。対象となる脆弱性と、ならない脆弱性の違いとは。

Share
Tweet
LINE
Hatena

 人工知能(AI)技術ベンダーOpenAIは、2023年4月に脆弱(ぜいじゃく)性報奨金制度「バグバウンティ」(Bug Bounty)を開始した。AI技術の安全な利用を目指し、AIチャットbot「ChatGPT」などの同社製品に存在する脆弱性の報告を受け付ける。AI技術を狙った攻撃に対抗するには「透明性と、さまざまな人との協力が欠かせない」と同社は述べる。

報奨金がもらえる脆弱性の「対象」と「対象外」は?

 OpenAIは世界中のセキュリティ専門家やホワイトハッカー(倫理的ハッカー)の力を借り、同社製品の脆弱性情報を収集。報告者に対して報奨金を支払う。「セキュリティ専門家やホワイトハッカーの知恵が、当社製品の安全を守ることに直結する」とOpenAIは期待する。

 Bugcrowdの同名バグバウンティサービスサイトにOpenAIが設けたWebページによると、今回のバグバウンティの対象となるのは、認証機能やプラグインといったChatGPTの構成要素と、ChatGPTのAPI(アプリケーションプログラミングインタフェース)の脆弱性が中心だ。ただしChatGPTの中核である大規模言語モデル(LLM)に関連する脆弱性は、今回のバグバウンティの対象外だという。

 2015年設立のOpenAIは、急速に知名度を高めている。同社製品にはChatGPTの他、画像生成ツール「Dall・E」などがある。MicrosoftはOpenAIとの提携に注力し、Microsoft製品にAI技術の導入を進めている。こうしたことを背景に、OpenAIにとって自社製品をいかに安全にするかが重要になっている。


 後編は報奨金の金額など、OpenAIのバグバウンティの詳細を見る。

関連キーワード

人工知能 | 脆弱性 | セキュリティ


TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る