米下院議員のテッド・リュー氏とナサニエル・モラン氏は2026年7月23日、超党派で「AI Kill Switch Act」（H.R.9917）を提出した。法案は下院国土安全保障委員会に付託されている。

　法案のポイントは、強力なAIシステムを開発する企業に対し、必要になった場合にシステムを「throttle」（減速）、「suspend」（停止）、「shut down」（シャットダウン）できる技術的能力を維持するよう求めることだ。

　さらに、重大な被害を引き起こす可能性のあるAIシステムについては、米国土安全保障長官が商務長官や国家情報長官と協議した上で、減速やシャットダウンを命じられる仕組みも盛り込む。つまり、「AI企業自身が止められるようにしておく」だけではなく、一定の場合には政府側にも停止を要求する権限を持たせる構想だ。

　リュー氏とモラン氏は、AI企業がより高度なフロンティアモデルや、自律的に行動するエージェント型システムを開発する一方、現状では「意図しない危険な行動を始めたAIに開発者が介入できる能力」を企業に義務付ける制度がないことを問題視している。

OpenAIは強化学習を2週間停止

　AIベンダー側でも、モデル開発のペースを一時的に落として安全対策を強化する動きがある。

　OpenAIは2026年8月18日、モデルの能力向上に伴って高まるリスクへの対応策を公表した。同社によると、最近のOpenAIとHugging Faceに関するインシデントに加え、開発中のモデル「Astra」が同社の「Preparedness Framework」で定めるサイバーセキュリティ能力の「Critical」水準に達する可能性を示す初期的な証拠が得られたという。

　これを受けてOpenAIは、研究環境のハードニングやレッドチームテスト、監視システムの対象拡大を進めるため、実環境への提供を想定した最新モデルについて、強化学習（RL）を2週間停止した。最大規模として予定していたフロンティアモデル向けのRLも、8月18日時点で停止を継続している。OpenAIはその間、小規模な学習や評価を実施し、モデルの振る舞いや安全策を確認した上で、学習を再開できるだけの根拠を集めるとしている。

　注目すべきは、AIの安全対策が「完成したモデルを公開する前にテストする」という段階だけでは済まなくなっている点だ。OpenAIは、モデルが高性能になるにつれて、開発中や学習中のモデルそのものが持つリスクも高まるという認識だ。さらに、学習プロセス全体の監視、アラインメント、封じ込め策を強化する必要があるとの認識を示している。

「モデル内蔵の安全機能」だけでは足りない

　こうした米国の動きと共通するのが、英国NCSCが示した「モデルに組み込まれた安全機能だけに依存しない」という考え方だ。

　NCSCは、AIモデルに組み込まれた安全策を把握するだけでなく、失敗した場合の影響が組織の許容範囲を超えるなら、追加の対策を用意すべきだとしている。具体的には、サンドボックスによる実行環境の制限、外部ネットワークや認証情報へのアクセス制御、監査ログや監視の整備などを挙げる。

　ここでいう「キルスイッチ」も、単なる電源ボタンとは限らない。NCSCは、自律的な活動を停止するだけでなく、AIエージェントのインフラから外部ネットワークへの接続を遮断したり、エージェントとモデル推論基盤との通信を止めたりする方法も想定している。