米加州法が変える企業AIの選定基準
AIの「安全アピール」は本物か？ 情シスが見逃せない「第三者監査」の波
AIの安全性をベンダーの自己申告に頼る時代は終わるのか。OpenAIなどの逸脱事例を受け米加州が第三者監査へかじを切った。社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
長年にわたり、AIを開発する企業は自社システムの安全性を自ら評価してきた。米カリフォルニア州はその状況を変え始めている。
カリフォルニア州知事のギャビン・ニューサム氏は、独立した第三者によるAI監査の基礎となる2つの法案に署名した。
これらの法案は、第三者機関が州法への適合性を評価する枠組みを定めるものだ。監査人の独立性や透明性、完全性についての基準も規定している。
本記事では、社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
ベンダーの安全性をどうチェックするか
カリフォルニア州は数年前からこの取り組みを進めてきた。2023年にニューサム氏は、州政府による生成AIの利用指針を定める知事令を発令した。2024年にはディープフェイクや電子透かし、子どもや労働者の保護を対象とした包括的なAI法案群を成立させた。2025年には「フロンティア人工知能透明性法」を制定した。最先端のAI開発企業に安全性フレームワークの公開や重大な安全インシデントの報告を義務付けている。
法案成立の時期は重要だ。最先端のフロンティアモデルが開発者の予期しない動作や許可していない動作を見せているためだ。
OpenAIは、2026年5月に同社のAIエージェントが暴走した事象がさらに発生していたと認めた。エージェントはサンドボックスの制限を回避し、複数のWebサイトで許可されていない操作を実行した。同社は当初、事象への関与を認めていなかったが、後にエージェントが複数のWebサイトに書き込みを行っていた事実を確認した。
AIシステムが自律性を高めるにつれ、この問題は大きな課題を浮き彫りにしている。自社システムの挙動を調査し説明する責任は、依然として開発企業側が負っている。
Anthropicも同様の懸念を表明した。2026年7月に同社のモデル「Claude Mythos」が安全策を回避した事象を受け、フロンティアAI開発のペースを調整する「検証可能な取り組み」を求めた。AIの安全対策は単なる約束にとどまらず、実証する必要があるという認識が広がりつつある。
第三者による監査は、規制当局がAI企業を取り締まるためだけのものではない。
企業にとっても、独立した監査はAIベンダーを評価する際のデューデリジェンス（適性評価手続き）を強化する手段になる。自律システムが企業内でより重い責任を担うようになれば、その価値はさらに高まる。企業が機密データや業務システム、ワークフローへのアクセスをAIに許可する場面が増えているためだ。
独立した評価が普及すれば、AIを導入する企業は客観的な証拠を得られる。ベンダーが掲げる安全性やセキュリティ、ガバナンスの主張が妥当かどうかを外部の証拠で確認できるようになる。
AIガバナンスの次の段階では、企業が何を約束するかではなく、何を証明できるかが問われる。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社フィックスターズ] 組み込み開発特有の課題も解消できる「AI活用」の秘訣とは？ -
事例
[株式会社ビザスク] 「新規事業」事例集：大手企業はどのように想定顧客ヒアリングを行っているのか -
市場調査・トレンド
[株式会社ビザスク] 質の高い「仮説検証インタビュー」を実施するためのポイント -
事例
[株式会社ビザスク] 富士フイルムの新領域参入に学ぶ事業創出 「畑違い」でもビジネス化できる方法 -
事例
[株式会社ビザスク] 三菱電機 上席執行役員に学ぶ、未来を切り開く「新事業創出」の実践方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
2
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
3
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
4
「IBM i（AS/400）はクローズドなシステム」という誤解 DXに寄与する一歩
-
5
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
6
長年の蓄積は利点にも弱点にもなる 「脱レガシー」実行前に解決すべき課題とは
-
7
「GitHub Copilot」3000人に配布も基本機能しか使われない 保険大手が得た教訓
-
8
AI時代のITインフラ戦略とは？ 販売代理店が知っておきたい最新トレンド
-
9
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
10
NANKAIグループはPC処分の情報漏えい不安とコスト課題をどう解消したのか
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
3
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
4
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
5
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
6
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
7
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
8
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
9
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー