2024年の生成AIトレンド5選【中編】
野良AI時代の「AIガバナンス」とは何か？ 悪質なプロンプトの改善も
生成AIが爆発的に普及する中で、AIガバナンスの体制構築が企業にとって急務だ。具体的に何に取り組めばいいのか。2024年の生成AI市場に起こる変化と併せて解説する。
2023年、テキストや画像などを自動生成するAI技術「生成AI」（ジェネレーティブAI）が急速に普及した。社内における生成AI活用の機会は広がり、AI技術に関するガバナンス（AIガバナンス）体制や、コンプライアンス（法令順守）対策が急務となっている。従業員が自身で選んだAIサービスを利用する「BYOAI」（Bring Your Own AI）の動きもあり、企業は機密情報の漏えいや法的侵害といったリスクに備える必要がある。
このような背景から、2024年はAIガバナンスに積極的に投資する動きが広がると予測される。AIガバナンスの強化とは、具体的にはどのような内容を指すのか。本稿は、2024年に生成AI市場で予測される5つのトレンドのうちの2つ目として、AIガバナンスの動向を紹介する。
2．企業によるAIガバナンスの強化
併せて読みたいお薦め記事
連載：2024年の生成AIトレンド5選
生成AIのリスクとどう向き合うか
調査会社Forrester Researchでアナリストを務めるミッシェル・ゲッツ氏によると、AIガバナンスの取り組みとして、企業が重点を置くと考えられる分野が幾つかある。ゲッツ氏の見解に基づいて、3つを紹介する。
1．プロンプトエンジニアリングの改善
生成AIに対して出す質問や指示を「プロンプト」、必要とする出力結果を得るためにプロンプトを設計したり改良したりする工程を「プロンプトエンジニアリング」と呼ぶ。
従業員に生成AIの知識習得を勧めたり、職場でAI技術を使用することを認めたりする企業は、従業員が出す不適切または不適格なプロンプトに対して警告を発することで、プロンプトエンジニアリングの改善を図る。
2．規制動向の把握
AI技術に関連する規制について、政府が策定中のものも含めて把握し、規制に違反しないようにコンプライアンス対策を進める。AI技術に関する既存の規制の例として、採用活動で雇用主がAI技術を利用することを規制する米国ニューヨーク市の法律や、カリフォルニア州消費者プライバシー法（CCPA）がある。そうした規制に準拠するAIツールの需要が高まると考えられる。
3．AI保険に加入
AIガバナンスに対する意識が高まると同時に、保険会社はAIを対象とした保険を提供する可能性がある。AI技術の活用が広がる中で、保険会社は現行の保険ではAI技術がもたらすさまざまなリスクをカバーし切れない可能性を認識しつつある。特に、企業がハルシネーション（AIシステムが誤報やゆがんだ情報を生成する現象）を警戒する状況を踏まえて、それに関連する保険が出てくる可能性がある。
後編は、今後予測されるLLM（大規模言語モデル）の進化を解説する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[フォーティネットジャパン合同会社] 複雑化しがちな「SASE運用」 IT・医療・金融などの事例に見る導入成功の秘訣 -
製品資料
[フォーティネットジャパン合同会社] 「SD-WAN」導入で失敗しないための5つの重要事項 -
技術文書・技術解説
[フォーティネットジャパン合同会社] VPNの代替候補「ZTNA」を理解できるようになる“3大要素”とは？ -
事例
[フォーティネットジャパン合同会社] すぐ分かる「SD-WAN」選定のポイント 成功企業はどんな成果を出した？ -
製品資料
[SCSK株式会社] 「Dropbox」管理・運用の困りごと解決ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
2
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
3
「IoT通信環境の構築・運用」に関するアンケート
-
4
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
5
IT製品の導入に関するアンケート「セキュリティ」編
-
6
みずほ証券が「液冷サーバ」を採用 1日3.6億件の計算を支えるための要件
-
7
SAP導入後も残る“Excel依存” 京急電鉄は「kintone」でどう解消した？
-
8
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
9
「有線LAN環境」に関するアンケート
-
10
「Windows」の不要なファイルを安全に消して容量を空ける方法
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
7
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「標的型攻撃メール」事例・サンプル集
-
10
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー