2024年の生成AIトレンド5選【中編】

野良AI時代の「AIガバナンス」とは何か？　悪質なプロンプトの改善も

生成AIが爆発的に普及する中で、AIガバナンスの体制構築が企業にとって急務だ。具体的に何に取り組めばいいのか。2024年の生成AI市場に起こる変化と併せて解説する。

公開 2024年03月06日 05時00分

更新 2024年03月03日 12時59分

著者

Esther Ajao

[TechTarget]

印刷する連載新着通知を受け取る

　2023年、テキストや画像などを自動生成するAI技術「生成AI」（ジェネレーティブAI）が急速に普及した。社内における生成AI活用の機会は広がり、AI技術に関するガバナンス（AIガバナンス）体制や、コンプライアンス（法令順守）対策が急務となっている。従業員が自身で選んだAIサービスを利用する「BYOAI」（Bring Your Own AI）の動きもあり、企業は機密情報の漏えいや法的侵害といったリスクに備える必要がある。

　このような背景から、2024年はAIガバナンスに積極的に投資する動きが広がると予測される。AIガバナンスの強化とは、具体的にはどのような内容を指すのか。本稿は、2024年に生成AI市場で予測される5つのトレンドのうちの2つ目として、AIガバナンスの動向を紹介する。

2．企業によるAIガバナンスの強化

併せて読みたいお薦め記事

連載：2024年の生成AIトレンド5選

前編：BYODならぬ「BYOAI」が拡大？　全従業員がAIを使う時代へ

生成AIのリスクとどう向き合うか

　調査会社Forrester Researchでアナリストを務めるミッシェル・ゲッツ氏によると、AIガバナンスの取り組みとして、企業が重点を置くと考えられる分野が幾つかある。ゲッツ氏の見解に基づいて、3つを紹介する。

1．プロンプトエンジニアリングの改善

　生成AIに対して出す質問や指示を「プロンプト」、必要とする出力結果を得るためにプロンプトを設計したり改良したりする工程を「プロンプトエンジニアリング」と呼ぶ。

　従業員に生成AIの知識習得を勧めたり、職場でAI技術を使用することを認めたりする企業は、従業員が出す不適切または不適格なプロンプトに対して警告を発することで、プロンプトエンジニアリングの改善を図る。

2．規制動向の把握

　AI技術に関連する規制について、政府が策定中のものも含めて把握し、規制に違反しないようにコンプライアンス対策を進める。AI技術に関する既存の規制の例として、採用活動で雇用主がAI技術を利用することを規制する米国ニューヨーク市の法律や、カリフォルニア州消費者プライバシー法（CCPA）がある。そうした規制に準拠するAIツールの需要が高まると考えられる。

3．AI保険に加入

　AIガバナンスに対する意識が高まると同時に、保険会社はAIを対象とした保険を提供する可能性がある。AI技術の活用が広がる中で、保険会社は現行の保険ではAI技術がもたらすさまざまなリスクをカバーし切れない可能性を認識しつつある。特に、企業がハルシネーション（AIシステムが誤報やゆがんだ情報を生成する現象）を警戒する状況を踏まえて、それに関連する保険が出てくる可能性がある。

　後編は、今後予測されるLLM（大規模言語モデル）の進化を解説する。