2024年の「生成AI」市場動向【後編】

「AIスキャンダル」で転落も？　生成AIで今後やってはいけないこと

生成AIが一世を風靡（ふうび）し、企業はビジネスでの生成AI活用を急いで進めている。それと同時に急務になるのがリスク対策だ。企業はどのようなポイントを押さえておくべきなのか。

公開 2024年02月22日 05時00分

更新 2024年02月15日 07時32分

著者

Mike Leone

[TechTarget]

印刷する連載新着通知を受け取る

　2024年のAI（人工知能）市場はどうなるのか。AIベンダーは企業向けサービスの開発に注力し、半導体の調達競争は激しさを増す見込みだ。「汎用（はんよう）人工知能」（AGI：Artificial General Intelligence）の実用化に向けた競争も注目を集めるだろう。

　生成AIの活用が進む中で、そのリスクが現実味を帯びてきた。中には好ましくない理由でニュースの見出しを飾る企業も出てくるだろう。生成AIのリスクに備えて、企業が押さえておくべき動向を3つ紹介する。

リスクを避けるために知りたい「生成AI」市場動向

4．2024年、考えるべきは「責任あるAI」

併せて読みたいお薦め記事

連載：2024年の「生成AI」市場動向

前編：「生成AIのこれから」を予測　幻滅期がないなら“次の進化”はこれだ

生成AI時代にどう備えるか

　「責任あるAI」（公平性や透明性、安全性の確保を考慮したAI技術）の実現を目指す企業では、責任あるAIやAI倫理の専門部署を発足するなど、さまざまな取り組みを進めている。2024年は以下の取り組みが進むだろう。

AI技術を安全に使うためのルールの制定
AI技術に関するガバナンス体制の構築
セキュリティ強化
AI技術の信頼性を高めるためのベストプラクティスの作成

　AI技術に関する課題は山積みだ。生成AIについて夢を語る企業のほとんどが、責任あるAIの取り組みを後回しにしている。社内でガバナンス強化のための組織を立ち上げるべきか、それともパートナー企業との連携を通じて課題解消に取り組むべきかなど、悩む企業は少なくない。

5．求められる「AI関連規制」への迅速な対処

　2024年2月、欧州連合（EU）はAI技術の利用に関する包括的な法律「AI法」の合意に至った。米国でも2023年10月、バイデン政権が「AIの安全性に係る大統領令」を出すなど、AI規制に向けた取り組みは世界中で着実に進んでいる。2024年は、国内外でAIガバナンスを目的とする法律が制定されるだろう。

　問題は、これらの法規制に企業が迅速に対処できるかどうかだ。生産性向上や効率化というメリットと、コンプライアンスやセキュリティの懸念とのバランスを取るために、企業には迅速な適応力が求められる。

6．AIに関する不祥事の増加

　2023年末時点で既に生成AIにまつわる不祥事が出てきているが、それはほんの始まりに過ぎない。経済誌Fortuneが発表する企業の売上高ランキング「Fortune 500」に入る企業からも、生成AIのリスク管理体制がずさんなせいで足をすくわれる企業が出てくるだろう。企業は、社内における不注意から次のような問題を引き起こす可能性がある。