2024年の生成AIトレンド5選【中編】
野良AI時代の「AIガバナンス」とは何か? 悪質なプロンプトの改善も
生成AIが爆発的に普及する中で、AIガバナンスの体制構築が企業にとって急務だ。具体的に何に取り組めばいいのか。2024年の生成AI市場に起こる変化と併せて解説する。
2023年、テキストや画像などを自動生成するAI技術「生成AI」(ジェネレーティブAI)が急速に普及した。社内における生成AI活用の機会は広がり、AI技術に関するガバナンス(AIガバナンス)体制や、コンプライアンス(法令順守)対策が急務となっている。従業員が自身で選んだAIサービスを利用する「BYOAI」(Bring Your Own AI)の動きもあり、企業は機密情報の漏えいや法的侵害といったリスクに備える必要がある。
このような背景から、2024年はAIガバナンスに積極的に投資する動きが広がると予測される。AIガバナンスの強化とは、具体的にはどのような内容を指すのか。本稿は、2024年に生成AI市場で予測される5つのトレンドのうちの2つ目として、AIガバナンスの動向を紹介する。
2.企業によるAIガバナンスの強化
併せて読みたいお薦め記事
連載:2024年の生成AIトレンド5選
生成AIのリスクとどう向き合うか
調査会社Forrester Researchでアナリストを務めるミッシェル・ゲッツ氏によると、AIガバナンスの取り組みとして、企業が重点を置くと考えられる分野が幾つかある。ゲッツ氏の見解に基づいて、3つを紹介する。
1.プロンプトエンジニアリングの改善
生成AIに対して出す質問や指示を「プロンプト」、必要とする出力結果を得るためにプロンプトを設計したり改良したりする工程を「プロンプトエンジニアリング」と呼ぶ。
従業員に生成AIの知識習得を勧めたり、職場でAI技術を使用することを認めたりする企業は、従業員が出す不適切または不適格なプロンプトに対して警告を発することで、プロンプトエンジニアリングの改善を図る。
2.規制動向の把握
AI技術に関連する規制について、政府が策定中のものも含めて把握し、規制に違反しないようにコンプライアンス対策を進める。AI技術に関する既存の規制の例として、採用活動で雇用主がAI技術を利用することを規制する米国ニューヨーク市の法律や、カリフォルニア州消費者プライバシー法(CCPA)がある。そうした規制に準拠するAIツールの需要が高まると考えられる。
3.AI保険に加入
AIガバナンスに対する意識が高まると同時に、保険会社はAIを対象とした保険を提供する可能性がある。AI技術の活用が広がる中で、保険会社は現行の保険ではAI技術がもたらすさまざまなリスクをカバーし切れない可能性を認識しつつある。特に、企業がハルシネーション(AIシステムが誤報やゆがんだ情報を生成する現象)を警戒する状況を踏まえて、それに関連する保険が出てくる可能性がある。
後編は、今後予測されるLLM(大規模言語モデル)の進化を解説する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ビザスク] 製造業の新事業創出 成功の鍵は「タラレバ問題克服」と「3つの判断ポイント」 -
製品資料
[日本シーゲイト株式会社] 実験のやり直しを防止 研究データ基盤に求められる高可用性ストレージとは -
製品資料
[株式会社Leaner Technologies] もっと安く買えるのに…… 間接材購買で“コスト削減機会”を逃さないためには -
製品資料
[株式会社セールスフォース・ジャパン] フィールドサービスの熟練技術者が「AIエージェント」を求めている理由 -
製品資料
[株式会社グリーンフィールド・オーバーシーズ・アシスタンス] 基礎から分かる「就労ビザ」 アメリカ進出を目指すなら知っておきたい取得戦略
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ情シスは評価されにくい? 読者調査で見えた「成果が見えない仕事」第1位は
-
2
脱VMwareか、継続か? 仮想化ソフト主要6製品の機能とスペックを徹底比較
-
3
VMware離れの決め手は“機能”以外だった 情シス109人が選んだ新基準と死角は
-
4
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
5
JSONをやめてPythonで送る トークン消費を約7割抑えるAIの設計
-
6
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
7
「データストレージの活用方法」に関するアンケート
-
8
「Excel至上主義」と“謎マクロ”の限界 属人化リスクを断つ業務移行の勘所
-
9
OpenAIがコスト半減のGPT-6新モデル投入 Claude猛追とOSS包囲網で激化する価格戦
-
10
1800件の「非人間ID」をどう統制するか JBCCが実践したリスク防衛策
ホワイトペーパーランキング PR
-
1
登録セキスぺが語る「SCS評価制度」の舞台裏 星を取得すべき理由と対応のコツ
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
3
OSSでは困難 100超のサービスを持つマネーフォワードが実践した統合監視術
-
4
「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略
-
5
月1000枚の紙を削減 9年動けなかった組織が、業務改革のその先に得たもの
-
6
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
7
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
8
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
9
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
10
ソフトウェア開発の属人化と手戻りをどう防ぐ? 速さと品質を両立させる方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー