法整備を待てない企業の実践的リスク管理
OpenAIが叫ぶ法規制の裏で 情シスが今すぐ固めるべきAI防衛策
AIベンダーが法規制を求める中、制度化を待つ企業は危険にさらされる。エージェント逸脱リスクも表面化する今、法整備を待たずに情シスが自衛すべき「足元のガバナンス設計」をGartnerなどの専門家が明かす。
AI市場の実存的安全性についての評価や見直しは急速に進展しており、企業が注視すべき問題となっている。
しかし、OpenAIなどの主要AIベンダーが国によるAIの義務的規制を求めている現状でも、企業は将来起こり得る変化に備えて組織を整えることに注力すべきである。
OpenAIで最高グローバル業務責任者を務めるクリス・レハネ氏は2026年9月9日、AIのリスクを封じ込めるための行動を世界の政策立案者に呼びかけるブログを投稿した。レハネ氏によると、OpenAIは国レベルでのAI安全性要件の義務化を推進しており、独立した安全性評価の枠組みについての法案や、同日にカリフォルニア州知事のギャビン・ニューサム氏が署名して成立させた2法案を含む同州の4法案を支持しているという。
同社は、他のフロンティアAI研究所と協力してAI安全基準を進展させ、自主規制を強化するとともに、能力の測定、リスク管理、AI技術に対する人間の制御維持に向けた国際的な協調アプローチを提唱する意向を示した。
この議論を見守る企業にとっての最善策は、テクノロジーの利用状況に応じたリスク階層に安全性を組み込むことだと、Gartnerのアナリストであるローレン・コーヌティック氏は述べる。
「規制当局の対応が追い付くまでの間、自社でのAI利用に追加の保護策や制御を組み込むことができる。立法機関が運用方法について合意を形成するには時間がかかるからだ」（コーヌティック氏）
OpenAIによる政策提言は、OpenAIとAnthropicのモデルを基盤とする自律型エージェントが、それぞれ隔離環境（サンドボックス）から脱出する事案が発生し、AI市場で技術的リスクへの警戒感が高まる中で出された。これらの事案は、AIシステムについて未解明な部分がいかに多いかを浮き彫りにした。
「AIの能力が向上するスピードは、社会制度がそれを理解し統治するスピードを上回っている」と、調査会社RPA2AI Research創業者のカシャップ・コンペラ氏は指摘する。同氏は、推論モデルや大幅に強化されたAI演算能力、能力を高め続ける自律型AIエージェントの登場により重要な転換点を超えたと付け加えた。
生成AI技術の複雑さと潜在的危険性では、「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏を始め多くの専門家が懸念を表明している。さらに2026年9月9日には、以前OpenAIに勤務していたAnthropicの研究者ジェイコブ・コクソン氏がSNSへの投稿で、企業はあまりに危険な超知能の開発を急いでおり、2020年代末までに人類を滅ぼしかねないと警告した。その後Anthropicを退社したコクソン氏は、政府の介入なしに汎用（はんよう）人工知能（AGI）を安全に構築できる企業など存在しないと主張した。
競争環境
「コクソン氏の退社は、重要な構造的問題を浮き彫りにしている」とコンペラ氏は語る。「一部の研究者がリスクは深刻化していると考えている場合でも、大手AI企業間の競争が能力開発を推し進め続けるインセンティブを生み出している」
同氏によると、企業間の競争がある以上、ベンダーに自主規制や技術進歩の追求を自発的に停止するよう求めることは解決策にならないという。
大手AIベンダーは、競合他社を出し抜くことだけでなく、貿易やAI技術を巡る米国と中国の地政学的競争にも突き動かされている。
イリノイ大学シカゴ校でデータサイエンスおよびAI戦略担当副学長補佐を務めるマイケル・ベネット氏は、「米中という2大国がAI競争での勝利を自国の存亡に関わると捉えているほど地政学的圧力は強い。AI開発競争の意味合いを考えれば、開発速度を落とす余裕はない」と説明する。
企業の対応
Gartnerのコーヌティック氏によると、企業はOpenAIが提案する義務的なAI規制を待つのではなく、第三者調達プロセスの独立評価など、各州が制定し始めている規制要件の一部を取り入れて自律的に管理すべきだという。
「規制は助けになるが、万能薬ではない。企業は最先端モデルを何のために使用しているのかを考える必要がある。全てのAI利用で最先端モデルを使う必要があるのか、どこで最大の価値を引き出せるのかを自問すべきだ」（コーヌティック氏）
企業はロビー活動を行い、議員に働きかけることもできると同氏は指摘する。
「議員と連携してモデルプロバイダーに懸念を伝えるロビー活動の余力がある企業なら、それを実行すべきだ。だが同時に、自分たちで管理できるもの、すなわち優れたAI、データ、サイバーセキュリティのガバナンス慣行の構成要素を確実に掌握しておく必要がある。そうすれば、将来の変化から組織を守るための適切な基盤が整う」（コーヌティック氏）
規制を求めるもう1つの理由
OpenAIによる連邦規制の要請や、カリフォルニア州のような法制化を支援するAIベンダーの動きは、AIリスクについての現在の議論への対応にとどまらない可能性がある。世論がAIやAIデータセンターに否定的な見方を強める中、控える選挙戦に先手を打ち、大衆の支持を維持するための戦略とも捉えられる。しかし、技術支援と安全性の双方が共存できる新たな一連の政策や規制を描くことは可能だとベネット氏は指摘する。
「最善の安全プロトコルとセーフガードを配備しながら、同時に開発を支援する形だ。人間とAIが連携したチームがテクノロジーを活用し、最適に設計された新しい規制の検討を支援することになる」（ベネット氏）
独立機関の必要性
規制は必要だが、大半の規制当局者が依然としてAIシステムを理解していないため、AI安全性のあらゆる問題が解決されるわけではないとコンペラ氏は話す。
「最先端システムがどのように構築されどのように動作するかについて深く理解しているのは、ごく一部の企業や研究グループの内部に集中したままだ。そのため規制当局は、技術的に複雑で変化が非常に速く、大半が政府外部で開発されているテクノロジーを規制するという困難な課題に直面している」（コンペラ氏）
同氏は、NASA（米航空宇宙局）やDARPA（米国国防高等研究計画局）のように、課題を継続的に調査・評価できる技術的深度と独立性を備えた機関が存在すべきだと主張した。そうした機関であれば、AI企業自体の影響を受けずに政策立案者に助言できるからだ。
「短期的な最も強力な解決策は、確かな技術力と独立性を備えた機関に支えられた超党派の連邦枠組みだ。最先端の研究所に異議を唱えられる強さを持ちながら、恐怖に基づく規制や技術進歩の凍結に陥らない技術的な洗練度が求められる。また、従来の規制機関よりも大幅に迅速に行動できなければならない」（コンペラ氏）
もっとも、企業はAIの実存的リスクを心配することに多くの時間を費やす必要は恐らくないが、認識はしておくべきだとコーヌティック氏は言う。
「企業が真に向き合うべきは目の前にあるリスクであり、自社のインフラやアーキテクチャにどのようなギャップがあるのかという点だ。現時点で見落とされている現実的な問題はそこにある可能性がある」（コーヌティック氏）
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[オーティファイ株式会社] AIでコーディングは加速したのにテストはそのまま？ いまQAに必要な進化とは -
事例
[オーティファイ株式会社] QAで開発サイクルを遅延させない 8社の事例に学ぶ「テスト工程」の課題解決策 -
製品資料
[株式会社ガラパゴス] 「AIっぽい広告」の山に埋もれさせない AIマーケで着実に成果をだす秘訣とは？ -
製品資料
[株式会社ガラパゴス] 「広告投資」調査レポート2026：勝ち組企業は何に投資しているのか？ -
製品資料
[株式会社Helpfeel] 「問い合わせの渋滞」を解消、情シスの負担を軽減する“次世代型AI”活用方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
2
9割が頓挫する「AI内製化」 差がついたのはツールより設計力
-
3
膨らむAIコストに歯止め GitHubのマルチモデルルーターは何が違うのか
-
4
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
5
JSONをやめてPythonで送る トークン消費を約7割抑えるAIの設計
-
6
「WhatsApp」の暗号化は万全ではない？ E2EEとマルチデバイス機能が生む死角
-
7
「コンテナ型データセンターの検討状況と課題」に関するアンケート
-
8
「身代金を支払う」以外のランサムウェア対策は本当にあるのか？
-
9
技術力だけでは「上に行けない」 シヤチハタCDOが語る、情シスが次の役割をつかむ条件
-
10
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
9
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
10
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー