企業を悩ませるAIの二面性　“便利だけど怖い”ツールはどう管理すべき？

AIツールは業務効率化や顧客サービスで大きな利益を生む一方、新たなサイバー脅威やリスクももたらす。企業はこの「AIの二面性」をどう管理すべきか。今問われるガバナンス体制とは。

公開 2025年11月17日 05時00分

[TechTarget]

印刷する連載新着通知を受け取る

　AI（人工知能）技術を取り巻くリスクの分析は複雑であり、経営層の悩みは深い。企業はAI技術の恩恵を享受したいと考えている。AIチャットbotは顧客サービスの質を向上させ、AIツールは採用プロセスの効率化と需要予測の精度向上、手作業や思考を要する業務の自動化を実現する。企業が職場におけるAI技術の利点と欠点を比較検討する中で、新たな活用法が絶えず模索されている。

　一方で経営層は、AIツールが新たなリスクをもたらすことも認識している。自社におけるAIツールのガバナンスやセキュリティ対策が不十分ではないかと懸念しているのだ。同時に、サイバー攻撃者によるAI技術の悪用も、対処すべき脅威であると経営層は理解している。攻撃者はAI技術を巧みに利用して巧妙なフィッシングメールを作成することで、データ窃取やランサムウェア（身代金要求型マルウェア）被害を引き起こそうとしている。

　本稿はAIツールに関連する懸念事項と、その対策について掘り下げる。

「AI活用がリスクを生む」は共通認識

併せて読みたいお薦め記事

AIツールのリスク管理

　マネージドサービスプロバイダー11:11 Systemsは2025年、従業員1000人以上の企業に勤務する800人以上のITリーダーを対象に調査を実施した。その結果、AI技術によって巧妙化したサイバー脅威への懸念が広がっている実態が明らかになった。

　調査によると、調査対象者の74％が、AI技術を使うことは自社のサイバー攻撃に対する脆弱（ぜいじゃく）を潜在的に高めると考えている。45％がAI技術を悪用したフィッシング攻撃を、35％が自律的に動作して変異するマルウェアによる攻撃をすでに経験していると回答した。

AI利用は「重大なリスク」だと認識する企業が増加

　ビジネス分野のシンクタンクThe Conference Boardと、データ分析企業ESGAUGEは、米国株価指数S&P 500に含まれている大手上場企業500社が、2025年8月15日（米国東部標準時）までに米国証券取引委員会（SEC）に提出した年次報告書を調査した。対象企業のうち72％が、2025年の資料においてAI技術を「重大なリスク要因」に挙げている。この数値は、2023年の12％から急激に上昇したものだ。

　こうした背景には、AIツールが実験的な段階を脱し、製品設計、物流、顧客サービスといった中核的な業務システムに広く導入されるようになった変化がある。

　AIツールを全社に導入する過程で、企業はセキュリティ上の脆弱性、風評被害、運用上のリスクといった懸念を表明している。これらの問題に対処するため、企業はガバナンスの強化、経営層レベルでの継続的な教育、「責任あるAI利用」に関する方針の策定を進めている。AIツールによってビジネスチャンスを追求すると同時に、負うべきリスクを管理するためだ。

AIリスクの軽減予算は増額の見通し

　ソフトウェア企業OneTrustは2025年、年間収益が1億ドルを超える企業のIT分野における意思決定者1250人を対象に調査を実施した。その結果によると、急速なAI技術の導入推進に伴って、98％の調査対象者が2026会計年度にリスク軽減策およびガバナンス体制への投資を大幅に増強する計画だと回答した。

　企業は、自社のAIツールを防護するため、「第1の防御線」「第2の防御線」「第3の防御線」といった多層的な防御など、AIツールのリスクを網羅的に管理する監視戦略を実行に移しつつある。

　AIツールのガバナンス関連の支出が増加することが見込まれるのは、AI技術の二面性に対する認識が広まった結果だと言える。AI技術は企業に多大な恩恵をもたらす可能性がある一方で、新たな脆弱性やリスクを生む。セキュリティ専門家は、企業が責任を持ってAIツールを管理するためには、全社横断的な方針、技術的な制御手段、それらの方針や手段を実際の業務に落とし込むための運用プロセスが不可欠だと強調する。

印刷する