2026年3月のセキュリティカンファレンス「RSAC 2026」に、セキュリティベンダーTenableのCo-CEO（共同最高経営責任者）であるスティーブン・ビンツ氏が登壇した。ビンツ氏はセッション「The Responsibility Gap: AI and the Shift to True Security Accountability」と題した講演において、この問題に対する具体的なガバナンスとリスク管理の仕組みを解説した。

　AIツールのリスクは、情報漏えいや評判の低下といったデジタル空間内の問題にとどまらない。ビンツ氏は、AIツールの不適切な運用が物理的な危害や深刻な社会問題につながる実例を提示する。

　例えば、医療現場において手術の精度を高めるために導入されたAIツールが、部位の誤認などの医療ミスを引き起こし、患者に重篤な被害をもたらしたとの報告がある。すでに実用化されているAI技術搭載の自律型兵器システムに対し、国際連合は人道法を順守できない可能性や、人間の対処能力を超えた速度で紛争をエスカレートさせる危険性を警告している。

　カナダのブリティッシュコロンビア州では、銃乱射事件の被害者遺族がOpenAIを提訴する事態も発生した。加害者が使用したAIツールが、差し迫った暴力を示唆していたにもかかわらず、ベンダーが当局に適切に警告しなかったという主張だ。これらは決して机上の空論ではなく、管理が行き届いていないAIツールが医療危機、軍事行動の不安定化、公共の安全への脅威を引き起こす現実を突き付けている。

自律化するAIエージェントがもたらす新たな脅威

　AI技術の普及は、アプリケーション開発の民主化をもたらした。プログラミング経験のない人でも容易にAIエージェントを構築できる、独自のシステム開発ツールが続々と登場している。しかし、利便性の裏には危うさが同居している。

　AIエージェントは膨大なデータにアクセスできるだけではなく、人の事前承認なしに業務フローを実行する自律性を持ち始めている。AIエージェントは機械であり、人のような倫理的な判断基準を持たない。そのため、事前に設定された安全基準や想定外の状況に直面した場合、その行動が社会的に適切かどうかを自律的に判断できず、タスクを強行してしまう危険性をはらんでいる。複数のAIエージェントがネットワークを形成し、互いに直接通信して連携するようになると、攻撃対象領域は爆発的に広がり、想定外の大規模なシステム障害を引き起こす危険性が増大する。

「消火」から「防火」へ：脆弱性の重要性

　これまでのセキュリティ投資は、脅威を検出して事後に対処する「消火活動」に偏重していた。しかし、圧倒的な速度で攻撃が進行するAI時代において、人の対処速度に依存する手法はもはや通用しない。ビンツ氏は、事後対処の「消火」から、事前にリスクを低減する「防火」へのシフトが必要だと指摘する。

　そこで有効な手段となるのが「脆弱（ぜいじゃく）性管理」だ。過剰な権限を持つID設定やクラウドワークロードの設定ミス、AIモデルの脆弱性など、一つ一つは軽微に見えるリスクであっても、それらが結び付くことで致命的な攻撃経路を生み出す危険性がある。脆弱性管理は、これらの点在するリスクを包括的に可視化し、推測ではなく客観的な事実に基づいて対策を講じるための土台を形成する。

結果に基づく規制と組織横断的なガバナンス

　AIツールのリスクを制御するには、官民双方のアプローチが求められる。行政などの規制当局は、特定の技術に縛られたルール作りを避けるべきだ。AI技術の進化は極めて速く、すぐに陳腐化してしまうため、技術そのものではなく結果に焦点を当てた規制が効果的だ。これによって、アルゴリズムのバイアスやプロンプトインジェクションといった意図しない結果を抑制しやすくなる。

　一方で、ガバナンスの最終的な実行責任は民間企業が担う。開発者、データサイエンティスト、事業部門のリーダーが、統一された基準のもとでリスクを評価する仕組みが不可欠だ。

• 展開前のリスク特定
  • システムを本番環境へ移行する前にリスクを洗い出し、AIモデルが予期しない動作をした場合の影響範囲を正確に把握する。
• ガバナンス委員会の設立
  • さまざまな部門のリーダーで構成される、横断的なAIガバナンス委員会を設置する。
• 既存フレームワークの活用
  • 企業が定めたリスクプロファイルや、米国立標準技術研究所（NIST）のサイバーセキュリティフレームワークなどの基準に沿って、システムを継続的に監視する。資産の発見やリスクの特定といった基本原則は、AIツールにも適用可能だ。

可視性こそが説明責任をもたらす

　AIツールの運用やそれに伴うリスクは、従来の縦割り組織の枠組みには収まらない。そのため、CISOをはじめとするセキュリティ担当者は、自部門の枠組みを超え、企業全体を俯瞰（ふかん）してリスクを管理する新しい役割を担う必要がある。

　システムで何らかの障害や情報漏えいが発生し、企業ブランドに傷がついた場合、最終的な責任を負うのは経営陣や取締役会だ。経営陣は、AIツールが社内でどのように展開され、どのようなリスクが内在し、それがどう管理されているのかを常に把握しておかなければならない。

　「可視性は説明責任だ」とビンツ氏は強調する。見えないリスクは管理できず、説明責任を果たすこともできない。透明性を確保し、リスクを統制することによって初めて、AIツールは予測不可能な脅威ではなく、信頼できる事業成長の強力な手段となるのだ。ほぼ全ての企業がAIを活用するようになりつつある今、その基盤を支える「信頼」こそが、生き残るための中核的な価値である。

本稿は、RSACが2026年3月26日に公開した動画「The Responsibility Gap: AI and the Shift to True Security Accountability」を基に作成しました。