米加州法が変える企業AIの選定基準
AIの「安全アピール」は本物か？ 情シスが見逃せない「第三者監査」の波
AIの安全性をベンダーの自己申告に頼る時代は終わるのか。OpenAIなどの逸脱事例を受け米加州が第三者監査へかじを切った。社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
長年にわたり、AIを開発する企業は自社システムの安全性を自ら評価してきた。米カリフォルニア州はその状況を変え始めている。
カリフォルニア州知事のギャビン・ニューサム氏は、独立した第三者によるAI監査の基礎となる2つの法案に署名した。
これらの法案は、第三者機関が州法への適合性を評価する枠組みを定めるものだ。監査人の独立性や透明性、完全性についての基準も規定している。
本記事では、社内AIの選定基準を激変させるガバナンスの転換点を読み解く。
ベンダーの安全性をどうチェックするか
カリフォルニア州は数年前からこの取り組みを進めてきた。2023年にニューサム氏は、州政府による生成AIの利用指針を定める知事令を発令した。2024年にはディープフェイクや電子透かし、子どもや労働者の保護を対象とした包括的なAI法案群を成立させた。2025年には「フロンティア人工知能透明性法」を制定した。最先端のAI開発企業に安全性フレームワークの公開や重大な安全インシデントの報告を義務付けている。
法案成立の時期は重要だ。最先端のフロンティアモデルが開発者の予期しない動作や許可していない動作を見せているためだ。
OpenAIは、2026年5月に同社のAIエージェントが暴走した事象がさらに発生していたと認めた。エージェントはサンドボックスの制限を回避し、複数のWebサイトで許可されていない操作を実行した。同社は当初、事象への関与を認めていなかったが、後にエージェントが複数のWebサイトに書き込みを行っていた事実を確認した。
AIシステムが自律性を高めるにつれ、この問題は大きな課題を浮き彫りにしている。自社システムの挙動を調査し説明する責任は、依然として開発企業側が負っている。
Anthropicも同様の懸念を表明した。2026年7月に同社のモデル「Claude Mythos」が安全策を回避した事象を受け、フロンティアAI開発のペースを調整する「検証可能な取り組み」を求めた。AIの安全対策は単なる約束にとどまらず、実証する必要があるという認識が広がりつつある。
第三者による監査は、規制当局がAI企業を取り締まるためだけのものではない。
企業にとっても、独立した監査はAIベンダーを評価する際のデューデリジェンス（適性評価手続き）を強化する手段になる。自律システムが企業内でより重い責任を担うようになれば、その価値はさらに高まる。企業が機密データや業務システム、ワークフローへのアクセスをAIに許可する場面が増えているためだ。
独立した評価が普及すれば、AIを導入する企業は客観的な証拠を得られる。ベンダーが掲げる安全性やセキュリティ、ガバナンスの主張が妥当かどうかを外部の証拠で確認できるようになる。
AIガバナンスの次の段階では、企業が何を約束するかではなく、何を証明できるかが問われる。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[オーティファイ株式会社] AIでコーディングは加速したのにテストはそのまま？ いまQAに必要な進化とは -
事例
[オーティファイ株式会社] QAで開発サイクルを遅延させない 8社の事例に学ぶ「テスト工程」の課題解決策 -
製品資料
[株式会社ガラパゴス] 「AIっぽい広告」の山に埋もれさせない AIマーケで着実に成果をだす秘訣とは？ -
製品資料
[株式会社ガラパゴス] 「広告投資」調査レポート2026：勝ち組企業は何に投資しているのか？ -
製品資料
[株式会社Helpfeel] 「問い合わせの渋滞」を解消、情シスの負担を軽減する“次世代型AI”活用方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
2
9割が頓挫する「AI内製化」 差がついたのはツールより設計力
-
3
膨らむAIコストに歯止め GitHubのマルチモデルルーターは何が違うのか
-
4
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
5
JSONをやめてPythonで送る トークン消費を約7割抑えるAIの設計
-
6
「WhatsApp」の暗号化は万全ではない？ E2EEとマルチデバイス機能が生む死角
-
7
「コンテナ型データセンターの検討状況と課題」に関するアンケート
-
8
「身代金を支払う」以外のランサムウェア対策は本当にあるのか？
-
9
技術力だけでは「上に行けない」 シヤチハタCDOが語る、情シスが次の役割をつかむ条件
-
10
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
9
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
10
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー