業務を効率化する目的で導入したAIツールが、経営戦略などの機密情報を全従業員に漏えいさせてしまう事故が起きている。IT部門や事業部門、法務部門といった組織の隙間から生まれる、AI特有の根本的なリスクとは。
企業の事業変革において、AIツールの導入は爆発的に進んでいる一方、サイバーインシデントの危険性も強まっている。
ある金融機関では、業務を効率化する目的で社内向けAIアシスタントを導入した結果、財務モデルや経営戦略といった機密情報が全従業員に検索可能な状態になってしまった。これは外部からのサイバー攻撃ではなく、セキュリティ部門による単純な設定ミスが原因だった。別の企業では、試験導入したAI検索システムが幻覚（ハルシネーション）を起こし、CISO（最高情報セキュリティ責任者）が秘密裏に企業買収を企てているという事実無根の情報を生成し、企業の評判を落とす危機に発展した。
こうした事態の根本にあるのが「責任ギャップ」だ。AIツールは従来型のソフトウェアよりもはるかに複雑に構成されている。データサイエンス部門がAIモデルを保有し、IT部門が展開を担当し、法務部門がコンプライアンスを確認する中で、セキュリティ部門は対処の最後尾に置かれがちだ。複数の部門が関与することで、AIリスクの管理権限が組織内で細分化され、事実上誰も責任を負っていない状態に陥っている。
部門間の責任ギャップを解消し、企業がAIツールを安全に運用するにはどのような対策が必要なのか。
2026年3月のセキュリティカンファレンス「RSAC 2026」に、セキュリティベンダーTenableのCo-CEO（共同最高経営責任者）であるスティーブン・ビンツ氏が登壇した。ビンツ氏はセッション「The Responsibility Gap: AI and the Shift to True Security Accountability」と題した講演において、この問題に対する具体的なガバナンスとリスク管理の仕組みを解説した。
AIツールのリスクは、情報漏えいや評判の低下といったデジタル空間内の問題にとどまらない。ビンツ氏は、AIツールの不適切な運用が物理的な危害や深刻な社会問題につながる実例を提示する。
例えば、医療現場において手術の精度を高めるために導入されたAIツールが、部位の誤認などの医療ミスを引き起こし、患者に重篤な被害をもたらしたとの報告がある。すでに実用化されているAI技術搭載の自律型兵器システムに対し、国際連合は人道法を順守できない可能性や、人間の対処能力を超えた速度で紛争をエスカレートさせる危険性を警告している。
カナダのブリティッシュコロンビア州では、銃乱射事件の被害者遺族がOpenAIを提訴する事態も発生した。加害者が使用したAIツールが、差し迫った暴力を示唆していたにもかかわらず、ベンダーが当局に適切に警告しなかったという主張だ。これらは決して机上の空論ではなく、管理が行き届いていないAIツールが医療危機、軍事行動の不安定化、公共の安全への脅威を引き起こす現実を突き付けている。
AI技術の普及は、アプリケーション開発の民主化をもたらした。プログラミング経験のない人でも容易にAIエージェントを構築できる、独自のシステム開発ツールが続々と登場している。しかし、利便性の裏には危うさが同居している。
AIエージェントは膨大なデータにアクセスできるだけではなく、人の事前承認なしに業務フローを実行する自律性を持ち始めている。AIエージェントは機械であり、人のような倫理的な判断基準を持たない。そのため、事前に設定された安全基準や想定外の状況に直面した場合、その行動が社会的に適切かどうかを自律的に判断できず、タスクを強行してしまう危険性をはらんでいる。複数のAIエージェントがネットワークを形成し、互いに直接通信して連携するようになると、攻撃対象領域は爆発的に広がり、想定外の大規模なシステム障害を引き起こす危険性が増大する。
これまでのセキュリティ投資は、脅威を検出して事後に対処する「消火活動」に偏重していた。しかし、圧倒的な速度で攻撃が進行するAI時代において、人の対処速度に依存する手法はもはや通用しない。ビンツ氏は、事後対処の「消火」から、事前にリスクを低減する「防火」へのシフトが必要だと指摘する。
そこで有効な手段となるのが「脆弱（ぜいじゃく）性管理」だ。過剰な権限を持つID設定やクラウドワークロードの設定ミス、AIモデルの脆弱性など、一つ一つは軽微に見えるリスクであっても、それらが結び付くことで致命的な攻撃経路を生み出す危険性がある。脆弱性管理は、これらの点在するリスクを包括的に可視化し、推測ではなく客観的な事実に基づいて対策を講じるための土台を形成する。
AIツールのリスクを制御するには、官民双方のアプローチが求められる。行政などの規制当局は、特定の技術に縛られたルール作りを避けるべきだ。AI技術の進化は極めて速く、すぐに陳腐化してしまうため、技術そのものではなく結果に焦点を当てた規制が効果的だ。これによって、アルゴリズムのバイアスやプロンプトインジェクションといった意図しない結果を抑制しやすくなる。
一方で、ガバナンスの最終的な実行責任は民間企業が担う。開発者、データサイエンティスト、事業部門のリーダーが、統一された基準のもとでリスクを評価する仕組みが不可欠だ。
AIツールの運用やそれに伴うリスクは、従来の縦割り組織の枠組みには収まらない。そのため、CISOをはじめとするセキュリティ担当者は、自部門の枠組みを超え、企業全体を俯瞰（ふかん）してリスクを管理する新しい役割を担う必要がある。
システムで何らかの障害や情報漏えいが発生し、企業ブランドに傷がついた場合、最終的な責任を負うのは経営陣や取締役会だ。経営陣は、AIツールが社内でどのように展開され、どのようなリスクが内在し、それがどう管理されているのかを常に把握しておかなければならない。
「可視性は説明責任だ」とビンツ氏は強調する。見えないリスクは管理できず、説明責任を果たすこともできない。透明性を確保し、リスクを統制することによって初めて、AIツールは予測不可能な脅威ではなく、信頼できる事業成長の強力な手段となるのだ。ほぼ全ての企業がAIを活用するようになりつつある今、その基盤を支える「信頼」こそが、生き残るための中核的な価値である。
本稿は、RSACが2026年3月26日に公開した動画「The Responsibility Gap: AI and the Shift to True Security Accountability」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓
MFA（多要素認証）を入れたから安心という常識が崩れ去っている。フィッシング集団「Tycoon2FA」が摘発されたが、脅威が完全になくなったというわけではない。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
