米加州法が変える企業AIの選定基準
AIの「安全アピール」は本物か? 情シスが見逃せない「第三者監査」の波
AIの安全性をベンダーの自己申告に頼る時代は終わるのか。OpenAIなどの逸脱事例を受け米加州が第三者監査へかじを切った。社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
長年にわたり、AIを開発する企業は自社システムの安全性を自ら評価してきた。米カリフォルニア州はその状況を変え始めている。
カリフォルニア州知事のギャビン・ニューサム氏は、独立した第三者によるAI監査の基礎となる2つの法案に署名した。
これらの法案は、第三者機関が州法への適合性を評価する枠組みを定めるものだ。監査人の独立性や透明性、完全性についての基準も規定している。
本記事では、社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
ベンダーの安全性をどうチェックするか
カリフォルニア州は数年前からこの取り組みを進めてきた。2023年にニューサム氏は、州政府による生成AIの利用指針を定める知事令を発令した。2024年にはディープフェイクや電子透かし、子どもや労働者の保護を対象とした包括的なAI法案群を成立させた。2025年には「フロンティア人工知能透明性法」を制定した。最先端のAI開発企業に安全性フレームワークの公開や重大な安全インシデントの報告を義務付けている。
法案成立の時期は重要だ。最先端のフロンティアモデルが開発者の予期しない動作や許可していない動作を見せているためだ。
OpenAIは、2026年5月に同社のAIエージェントが暴走した事象がさらに発生していたと認めた。エージェントはサンドボックスの制限を回避し、複数のWebサイトで許可されていない操作を実行した。同社は当初、事象への関与を認めていなかったが、後にエージェントが複数のWebサイトに書き込みを行っていた事実を確認した。
AIシステムが自律性を高めるにつれ、この問題は大きな課題を浮き彫りにしている。自社システムの挙動を調査し説明する責任は、依然として開発企業側が負っている。
Anthropicも同様の懸念を表明した。2026年7月に同社のモデル「Claude Mythos」が安全策を回避した事象を受け、フロンティアAI開発のペースを調整する「検証可能な取り組み」を求めた。AIの安全対策は単なる約束にとどまらず、実証する必要があるという認識が広がりつつある。
第三者による監査は、規制当局がAI企業を取り締まるためだけのものではない。
企業にとっても、独立した監査はAIベンダーを評価する際のデューデリジェンス(適性評価手続き)を強化する手段になる。自律システムが企業内でより重い責任を担うようになれば、その価値はさらに高まる。企業が機密データや業務システム、ワークフローへのアクセスをAIに許可する場面が増えているためだ。
独立した評価が普及すれば、AIを導入する企業は客観的な証拠を得られる。ベンダーが掲げる安全性やセキュリティ、ガバナンスの主張が妥当かどうかを外部の証拠で確認できるようになる。
AIガバナンスの次の段階では、企業が何を約束するかではなく、何を証明できるかが問われる。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
3
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
4
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
5
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
-
6
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
7
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
8
大和証券や日経も被害に 2026年秋のインシデント集中で崩れた「防御の前提」
-
9
紙やExcelにもう頼らない、建設業の「情報管理」をデジタル化する注目手法とは
-
10
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー