AIの「キルスイッチ」とは？ 自律型AIの安全対策と米英で進む法規制の最新動向：「電源を切るだけ」では済まない

AIモデルやAIエージェントの能力、自律性が高まる中、問題が発生した際に人間が介入し、システムを停止できる仕組みの重要性が増している。本稿は、米国政府やAIベンダーの動向を紹介する。

[Alex Scroxton，TechTarget]

　AIエージェントが人間の想定を超えて行動したとき、誰が、どのように止めるのか――。AIの自律性が高まる中、この問いが研究上の議論から、現実のセキュリティ対策や法規制のテーマへと変わりつつある。

　米国では2026年7月、強力なAIシステムの開発者に、対象システムを減速、停止できる技術的能力の維持を求める「AI Kill Switch Act」が連邦議会に提出された。OpenAIは同年8月、研究環境のセキュリティ強化などを目的に、実環境への提供を想定した最新モデルの強化学習（RL）を2週間停止したと明らかにした。

　背景にあるのは、AIモデルやAIエージェントの能力向上に対し、「問題が起きたときに人間が介入できる仕組み」が追い付かなくなることへの懸念だ。英国のNCSC（National Cyber Security Centre）も、エージェント型AIを設計、運用する組織に対し、問題発生時に自律的な活動を即座に停止できるようにすることを求めている。

AIエージェントを「止める」仕組みが現実の課題に

併せて読みたいお薦め記事

AIエージェントとインシデント

• 無害なコマンドが引き金に Cursorを狙う「環境変数改ざん」の恐怖
• AIエージェントと外部ツールを安全につなぐには？ お勧めの接続パターン5選

　米下院議員のテッド・リュー氏とナサニエル・モラン氏は2026年7月23日、超党派で「AI Kill Switch Act」（H.R.9917）を提出した。法案は下院国土安全保障委員会に付託されている。

　法案のポイントは、強力なAIシステムを開発する企業に対し、必要になった場合にシステムを「throttle」（減速）、「suspend」（停止）、「shut down」（シャットダウン）できる技術的能力を維持するよう求めることだ。

　さらに、重大な被害を引き起こす可能性のあるAIシステムについては、米国土安全保障長官が商務長官や国家情報長官と協議した上で、減速やシャットダウンを命じられる仕組みも盛り込む。つまり、「AI企業自身が止められるようにしておく」だけではなく、一定の場合には政府側にも停止を要求する権限を持たせる構想だ。

　リュー氏とモラン氏は、AI企業がより高度なフロンティアモデルや、自律的に行動するエージェント型システムを開発する一方、現状では「意図しない危険な行動を始めたAIに開発者が介入できる能力」を企業に義務付ける制度がないことを問題視している。

OpenAIは強化学習を2週間停止

　AIベンダー側でも、モデル開発のペースを一時的に落として安全対策を強化する動きがある。

　OpenAIは2026年8月18日、モデルの能力向上に伴って高まるリスクへの対応策を公表した。同社によると、最近のOpenAIとHugging Faceに関するインシデントに加え、開発中のモデル「Astra」が同社の「Preparedness Framework」で定めるサイバーセキュリティ能力の「Critical」水準に達する可能性を示す初期的な証拠が得られたという。

　これを受けてOpenAIは、研究環境のハードニングやレッドチームテスト、監視システムの対象拡大を進めるため、実環境への提供を想定した最新モデルについて、強化学習（RL）を2週間停止した。最大規模として予定していたフロンティアモデル向けのRLも、8月18日時点で停止を継続している。OpenAIはその間、小規模な学習や評価を実施し、モデルの振る舞いや安全策を確認した上で、学習を再開できるだけの根拠を集めるとしている。

　注目すべきは、AIの安全対策が「完成したモデルを公開する前にテストする」という段階だけでは済まなくなっている点だ。OpenAIは、モデルが高性能になるにつれて、開発中や学習中のモデルそのものが持つリスクも高まるという認識だ。さらに、学習プロセス全体の監視、アラインメント、封じ込め策を強化する必要があるとの認識を示している。

「モデル内蔵の安全機能」だけでは足りない

　こうした米国の動きと共通するのが、英国NCSCが示した「モデルに組み込まれた安全機能だけに依存しない」という考え方だ。

　NCSCは、AIモデルに組み込まれた安全策を把握するだけでなく、失敗した場合の影響が組織の許容範囲を超えるなら、追加の対策を用意すべきだとしている。具体的には、サンドボックスによる実行環境の制限、外部ネットワークや認証情報へのアクセス制御、監査ログや監視の整備などを挙げる。

　ここでいう「キルスイッチ」も、単なる電源ボタンとは限らない。NCSCは、自律的な活動を停止するだけでなく、AIエージェントのインフラから外部ネットワークへの接続を遮断したり、エージェントとモデル推論基盤との通信を止めたりする方法も想定している。