野良AI時代の「AIガバナンス」とは何か? 悪質なプロンプトの改善も2024年の生成AIトレンド5選【中編】

生成AIが爆発的に普及する中で、AIガバナンスの体制構築が企業にとって急務だ。具体的に何に取り組めばいいのか。2024年の生成AI市場に起こる変化と併せて解説する。

2024年03月06日 05時00分 公開
[Esther AjaoTechTarget]

関連キーワード

人工知能


 2023年、テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)が急速に普及した。社内における生成AI活用の機会は広がり、AI技術に関するガバナンス(AIガバナンス)体制や、コンプライアンス(法令順守)対策が急務となっている。従業員が自身で選んだAIサービスを利用する「BYOAI」(Bring Your Own AI)の動きもあり、企業は機密情報の漏えいや法的侵害といったリスクに備える必要がある。

 このような背景から、2024年はAIガバナンスに積極的に投資する動きが広がると予測される。AIガバナンスの強化とは、具体的にはどのような内容を指すのか。本稿は、2024年に生成AI市場で予測される5つのトレンドのうちの2つ目として、AIガバナンスの動向を紹介する。

2.企業によるAIガバナンスの強化

 調査会社Forrester Researchでアナリストを務めるミッシェル・ゲッツ氏によると、AIガバナンスの取り組みとして、企業が重点を置くと考えられる分野が幾つかある。ゲッツ氏の見解に基づいて、3つを紹介する。

1.プロンプトエンジニアリングの改善

 生成AIに対して出す質問や指示を「プロンプト」、必要とする出力結果を得るためにプロンプトを設計したり改良したりする工程を「プロンプトエンジニアリング」と呼ぶ。

 従業員に生成AIの知識習得を勧めたり、職場でAI技術を使用することを認めたりする企業は、従業員が出す不適切または不適格なプロンプトに対して警告を発することで、プロンプトエンジニアリングの改善を図る。

2.規制動向の把握

 AI技術に関連する規制について、政府が策定中のものも含めて把握し、規制に違反しないようにコンプライアンス対策を進める。AI技術に関する既存の規制の例として、採用活動で雇用主がAI技術を利用することを規制する米国ニューヨーク市の法律や、カリフォルニア州消費者プライバシー法(CCPA)がある。そうした規制に準拠するAIツールの需要が高まると考えられる。

3.AI保険に加入

 AIガバナンスに対する意識が高まると同時に、保険会社はAIを対象とした保険を提供する可能性がある。AI技術の活用が広がる中で、保険会社は現行の保険ではAI技術がもたらすさまざまなリスクをカバーし切れない可能性を認識しつつある。特に、企業がハルシネーション(AIシステムが誤報やゆがんだ情報を生成する現象)を警戒する状況を踏まえて、それに関連する保険が出てくる可能性がある。


 後編は、今後予測されるLLM(大規模言語モデル)の進化を解説する。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news075.png

Z世代の告白手段は「直接」が大多数 理由は?
好きな人に思いを伝える手段として最も多く選ばれるのは「直接」。理由として多くの人は...

news100.jpg

日本はなぜ「世界の旅行者が再訪したい国・地域」のトップになったのか 5つの視点で理由を解き明かす
電通は独自調査で、日本が「観光目的で再訪したい国・地域」のトップとなった要因を「期...

news023.jpg

誰も見ていないテレビ番組にお金を払って露出する意味はあるのか?
無名のわが社でもお金を出せばテレビに出してもらえる? 今回は、広報担当者を惑わせる...