編集部のお薦め記事

AIでAIを監視する「ガードレール」構築術　エージェント暴走を防ぐには

なぜ開発者はローカルLLMに向かうのか　APIコストの呪縛を解く「Gemma 4」

　同法案は、OpenAIが自社のAIモデルが意図せずHugging Faceのプラットフォームを攻撃したインシデントを公表した数日後、Anthropicが同様のインシデントを発表する直前に提出された。法案には主に以下の要件が含まれている。

• AIモデルの動作速度を抑制し、完全に停止できるようにする管理機能の実装
• AIモデルによる意図しないセキュリティ侵害についてのインシデントの報告義務
• 研究者が何が起きたかを分析できるよう、インシデント後のフォレンジックデータを保存すること

　法が成立した場合、AIを利用して年間5億ドル（現在のレートで約788億円）以上の収益を上げている企業、1億ドル（同約158億円）以上の計算資源を使ってモデルをトレーニングしている企業、およびAI技術を第三者に提供している企業が対象となる。この区分には、OpenAIやAnthropicなどの主要なAI開発企業が含まれる。

　だが、AIモデルの販売を行っていなくても、カスタムAI製品の開発に多額の投資をしている一般企業にも同法律が適用される可能性がある。「AIを利用して収益を上げる」ことの定義があいまいだからだ。法案では、AI技術から年間5億ドルの収益を「得ている」組織に適用されるとしか規定されていない。

　第三者へのAI技術の提供についての定義も広範だ。「プログラムによるインタフェース、ホスティングサービス、その他の同様の仕組み」を通じてAIを提供する全ての事例が法案の対象となる。

　規制当局は、年間5億ドル以上を売り上げ、顧客やパートナー向けのなんらかのAIシステムを運用している企業であれば、AIツールやサービスが主力製品でなくても要件の対象になると解釈する可能性がある。例えば、カスタマーサービスの問い合わせ処理にAIエージェントを利用している企業も法案の対象となり得る。

　従って、AI市場の企業だけでなく、あらゆる分野のビジネスリーダーがこの提出法案に☆だ。

AIキルスイッチはどのように機能するのか

　この法案は、企業のAIを実質的に規制することよりも、有権者の支持を得る狙いが強いという見方がある。法案発表のプレスリリースによると、有権者の86％がこうしたAI規制を支持している。政治家にとってこの種の法案を提出することは、国民の利益を考慮しているとアピールする容易な手段だ。

　技術的な視点から見ても、AIキルスイッチがどこまで機能するかは不透明だ。キルスイッチの実装には以下の二つのアプローチが考えられるが、どちらにも大きな欠点がある。

ソフトウェアによる管理

　開発者はAIモデルの停止やサンドボックス化を目的としたソフトウェア制御を作成できる。例えば、モデルをホストするサーバのインターネット接続を遮断するファイアウォールルールなどが挙げられる。

　理論上は機能するが、問題は制御不能になったAIモデルが管理機能を迂回したり無効化したりする方法を見つける可能性がある点だ。OpenAIやAnthropicが公表した最近のインシデントでは、AIモデルはインターネットから隔離されたサンドボックス環境内で動作するはずだったものの、その環境から抜け出す手段を見つけていた。キルスイッチをモデルからアクセスできないように設計したとしても、完全に安全だと断言することは難しい。

ハードウェアによるキルスイッチ

　AIモデルのホストサーバをインターネットや電源から切断する物理的なスイッチを構築するアプローチだ。課題は、大規模なAIモデルが単一のサーバやデータセンターだけで運用されていない点だ。複数のデータセンターにまたがる数千台のサーバに分散配置されているため、モデル全体を一度に停止できる単一の物理スイッチを作ることは不可能だ

　こうした限界があるため、AIキルスイッチ法はレーガン政権時代の戦略防衛構想（SDI）と同類に見えるかもしれない。SDIは、宇宙配備型の防衛シールドで米国を核攻撃から防護するために政府が提案した計画だ。当時、政府はSDIの実現が現実的でないことを認識していた。それでもレーガン大統領は冷戦末期にソ連で優位に立つため、SDIの性能をアピールした。

　AIキルスイッチの概念も同様に、機能しない可能性がある。それでも議員や規制当局が提案をやめることはない。企業のAI運用に対する規制を強め、有権者の要求に応えるためだ。

AI管理の新たな時代

　AIキルスイッチ法が注目されるのは、AIの管理と規制が新たな時代に入ったことを示すシグナルだからだ。これまで大半の政府はAIの規制に消極的だった。欧州連合（EU）の「EU AI法」のように規制がある場合でも、主な対象は倫理やデータプライバシーについての懸念であり、AIシステム全体を停止する権限の確保には重点が置かれていなかった。

　2026年春のトランプ大統領による「AIシステムにはキルスイッチのようなセーフガードが組み込まれるべきだ」という発言に続いて提出された同法案は、新たな方向性を示している。今後は、データプライバシーやサイバーセキュリティの規制順守だけでなく、指示に応じてAIの動作を制限または停止できる体制の構築を企業に求める動きが強まる見通しだ。

企業リーダーが取るべき対応

　現時点で、企業リーダーがどのような対応をとるべきかを正確に判断するのは時期尚早だ。キルスイッチ法が成立するかどうかは未確定であり、仮に成立するとしても、それまでに内容が大幅に変更される可能性がある。特に、どの企業が法の対象となるのかについて明確なガイドラインが出されるのが望まれる。

　しかし、たとえ確実に機能しないとしても、キルスイッチのような管理機能がAIシステムの標準要件になると想定し、企業は以下の対策を講じることができる。

• AIツールとプラットフォームの棚卸し：棚卸しによって、自社の業務をどのモデルが支えているか、それらのモデルがどのように規制されているかを可視化する
• 複数のAIモデルおよびベンダーの採用：特定のAIモデルやサービスが規制介入や速度制限によって停止した場合でも、AIシステムとそれに依存する業務プロセスの継続性を確保する
• AIの監視とドキュメント管理への投資：AI関連のセキュリティインシデントや予期せぬ挙動についての報告・開示を義務付ける規制へ対応するうえで重要となる
• ローカルLLMの活用検討：ローカル環境で動作する大規模言語モデル（LLM）はクラウド型のモデルに比べて性能が限られるため、AI規制の対象にはなっておらず、今後も対象になりにくいと考えられる。ローカルLLMを活用することで、可用性を維持しつつ規制対応の複雑化を回避できる
• 全社的なガバナンス・リスク・コンプライアンス（GRC）戦略の強化：リスクの検出や評価、報告を主に手動で行っている企業は、自動化されたGRCプラットフォームへの投資を検討すべきだ。GRCベンダーの評価や、AI関連コンプライアンス要件への対応状況を比較することも有効な手段となる

　こうした対策により、将来的に規制当局が最先端モデルや他のAIシステムにどのような要求を突きつけたとしても、AIに依存する企業のレジリエンス（回復力）を高めることができる。