2024年の生成AIトレンド5選【中編】
野良AI時代の「AIガバナンス」とは何か? 悪質なプロンプトの改善も
生成AIが爆発的に普及する中で、AIガバナンスの体制構築が企業にとって急務だ。具体的に何に取り組めばいいのか。2024年の生成AI市場に起こる変化と併せて解説する。
2023年、テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)が急速に普及した。社内における生成AI活用の機会は広がり、AI技術に関するガバナンス(AIガバナンス)体制や、コンプライアンス(法令順守)対策が急務となっている。従業員が自身で選んだAIサービスを利用する「BYOAI」(Bring Your Own AI)の動きもあり、企業は機密情報の漏えいや法的侵害といったリスクに備える必要がある。
このような背景から、2024年はAIガバナンスに積極的に投資する動きが広がると予測される。AIガバナンスの強化とは、具体的にはどのような内容を指すのか。本稿は、2024年に生成AI市場で予測される5つのトレンドのうちの2つ目として、AIガバナンスの動向を紹介する。
2.企業によるAIガバナンスの強化
併せて読みたいお薦め記事
連載:2024年の生成AIトレンド5選
生成AIのリスクとどう向き合うか
調査会社Forrester Researchでアナリストを務めるミッシェル・ゲッツ氏によると、AIガバナンスの取り組みとして、企業が重点を置くと考えられる分野が幾つかある。ゲッツ氏の見解に基づいて、3つを紹介する。
1.プロンプトエンジニアリングの改善
生成AIに対して出す質問や指示を「プロンプト」、必要とする出力結果を得るためにプロンプトを設計したり改良したりする工程を「プロンプトエンジニアリング」と呼ぶ。
従業員に生成AIの知識習得を勧めたり、職場でAI技術を使用することを認めたりする企業は、従業員が出す不適切または不適格なプロンプトに対して警告を発することで、プロンプトエンジニアリングの改善を図る。
2.規制動向の把握
AI技術に関連する規制について、政府が策定中のものも含めて把握し、規制に違反しないようにコンプライアンス対策を進める。AI技術に関する既存の規制の例として、採用活動で雇用主がAI技術を利用することを規制する米国ニューヨーク市の法律や、カリフォルニア州消費者プライバシー法(CCPA)がある。そうした規制に準拠するAIツールの需要が高まると考えられる。
3.AI保険に加入
AIガバナンスに対する意識が高まると同時に、保険会社はAIを対象とした保険を提供する可能性がある。AI技術の活用が広がる中で、保険会社は現行の保険ではAI技術がもたらすさまざまなリスクをカバーし切れない可能性を認識しつつある。特に、企業がハルシネーション(AIシステムが誤報やゆがんだ情報を生成する現象)を警戒する状況を踏まえて、それに関連する保険が出てくる可能性がある。
後編は、今後予測されるLLM(大規模言語モデル)の進化を解説する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社キーエンス] PCが苦手でも自動化できる 近鉄コスモスなど4事例に学ぶ「ナビ搭載型RPA」活用 -
製品資料
[レノボ・ジャパン合同会社] 約1.39kgにAI処理能力を凝縮 持ち運べるAPU搭載ワークステーションの実力は? -
製品レビュー
[ネットアップ合同会社] ランサムウェア被害からの回復を阻む最大の壁とは? -
製品レビュー
[ネットアップ合同会社] 攻撃者は“最後の砦”を真っ先に狙う いま必要なランサムウェア対策とは? -
市場調査・トレンド
[Snowflake合同会社] AI時代のビジネスインテリジェンス変革:5大トレンドと成功戦略
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
Microsoft 365統一で「SharePoint」が1日2TB増 富士フイルムはどう管理した?
-
4
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
5
8割がアナログに逆戻りする“やっぱりな理由” DXを阻む2つの落とし穴
-
6
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
7
1巻40TB、量子解読も防ぐ「LTO-10」 テープを侮るバックアップの盲点
-
8
クラウド時代にあえて「メインフレーム」を選びたくなる理由はこれだ
-
9
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
10
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
9
進化が遅れる「電話」をアップデート、AIを搭載した次世代の通話機能とは?
-
10
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー