ChatGPTの進化に疑義 「企業向け新機能」の何が問題なのか？：OpenAI発表と生成AI市場の今後【後編】
OpenAIが2024年7月に発表した「Enterprise Compliance API」により、規制が厳格な産業でも「ChatGPT」を利用しやすくなる。一方で専門家はOpenAIの今回の発表に関して“ある疑問”を呈している。
AIベンダーOpenAIが2024年7月に発表した「Enterprise Compliance API」は、企業向けChatGPT「ChatGPT Enterprise」の安全性や透明性の強化を支援するものだ。Enterprise Compliance APIによってChatGPT Enterpriseで利用できる管理機能は多様になるが、専門家はOpenAIによる今回の発表にある疑問を呈している。
ChatGPTの進化に疑義 何が問題なのか？
併せて読みたいお薦め記事
連載：OpenAI発表と生成AI市場の今後
生成AIのリスクを考える
Enterprise Compliance APIのメインターゲットは、金融や医療、行政など、規制が厳格な分野の組織だ。Enterprise Compliance APIとChatGPT Enterpriseを組み合わせて使うことで、会話履歴やアップロードファイル、ワークスペースの設定やユーザー情報などをタイムスタンプ付きで記録し、ログの記録や監査証跡の管理などに役立てることができる。
従来、ChatGPT Enterpriseワークスペースの管理者は、特定のアクションを許可するか禁止するの2択しか選べなかった。Enterprise Compliance APIではより細やかな制御が可能となる。具体的には、ユーザーグループの作成および編集、アクセス権限制御、共有権限管理、サードパーティー製GPTアプリケーションの承認などが含まれる。
なぜ今なのか？ 専門家が指摘
米TechTarget傘下の調査部門Enterprise Strategy Group（ESG）でアナリストを務めるマーク・べキュー氏は今回の発表について、「企業向けアプリケーションには最低限備わっているはずのものだ」と話す。例えば、Microsoftの生成AIサービス「Copilot for Microsoft 365」には、2023年の提供開始時点でセキュリティガードレールが組み込まれていた。
さらにべキュー氏は、OpenAIがChatGPT Enterpriseの提供前ではなく、提供後に安全対策に取り組んでいる点について、「AIの安全性をミッションに掲げる組織として矛盾した行動だ」と指摘し、「なぜ提供開始から1年経って、ようやく実行に移したのか」と疑問を投げかける。
調査会社The Futurum Groupでアナリストを務めるデビッド・ニコルソン氏は、べキュー氏とは反対の意見を示す。AI技術はまだ発展途上であり、「AIベンダーがセキュリティ対策を導入するタイミングについて、批判することは難しい」とニコルソン氏話す。生成AIのような新興技術の場合、その脆弱（ぜいじゃく）性がまだ十分に理解されておらず、セキュリティツールを用意しても初日にハッキングされてしまう可能性もあるからだ。「生成AIを悪用する動きは今後増えてくるだろう」とも同氏は予測する。
ニコルソン氏はEnterprise Compliance APIの注目すべき点として、「細やかな制御が可能な点」を挙げる。ChatGPT Enterpriseのワークスペース管理者は、エンドユーザーごとのアクセス制御や、アクセス履歴の監査が可能となる。「誰かが生成AIを密かに悪用することで引き起こされるリスクを、過小評価してはならない」と同氏は警告する。
2024年8月、OpenAIはクロスドメインアイデンティティー管理システム（SCIM）の提供も開始している。社内の従業員ディレクトリ（名簿など）をChat GPT Enterpriseのワークスペースと同期し、ユーザー管理の一元化に貢献する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.