米議会が「AI緊急停止」法案　ChatGPTは今すぐ止まるのか

米議員がAIを緊急停止できる法案を発表

米国のテッド・リュー下院議員とナサニエル・モラン下院議員は2026年7月23日、超党派で「AI Kill Switch Act（AI緊急停止法案）」を発表しました。最先端AIを提供する大手企業に、利用を遅くする、特定機能や利用者を止める、サービス全体を停止する技術的な手段を持たせる案です。

重大な事故が起きたと米国土安全保障長官が判断した場合、商務長官と国家情報長官へ相談したうえで、事故の深刻さと緊急性に見合う対応を企業へ命じられる仕組みです。命令に従わない場合は、1日あたり最大2000万ドルの民事制裁金が定められています。

対象となる開発企業に、対象AIを減速、一時停止、または完全停止する技術的能力の維持を求めます。

出典：テッド・リュー下院議員の公式発表（原文を日本語訳）

まだ法律ではなく、今すぐサービスは止まらない

最も重要な点は、これは成立済みの法律ではないことです。議員が公開した15ページの法案本文は、表紙の法案番号が空欄で、付託先の委員会名も空欄になっています。2026年7月30日時点で確認できる一次資料は、下院へ提出する法案の文案と議員発表です。

したがって、米政府が現在この法案に基づいてChatGPT、Claude、Geminiなどを停止できるわけではありません。今の利用料金や提供地域が変わるとの発表でもありません。法案が成立するには、議会での審議や採決など今後の手続きが必要で、本文も変わる可能性があります。

対象は大手企業の非常に大きなAI

法案の初期条件では、対象企業は三つの要件をすべて満たします。対象AIを運用すること、APIやクラウドサービスなどを通じて第三者へ提供すること、そのAIと関連企業から前年に5億ドル以上の総収入を得ていることです。個人、学術、非商用だけで提供する企業は除外されます。

対象AIは、米国のクラウド価格で換算した開発時の計算費が1億ドルを超えるものです。これは利用者が払う月額料金ではなく、AIを開発するために使った計算資源の費用です。小さな会社の一般的な業務用AIや、個人がパソコンで動かす小型AIを一律に止める内容ではありません。

対象企業は、対象技術から関連会社と合わせて前年に5億ドル以上の総収入を得る者とし、対象技術は米国のクラウド市場価格で計算費が1億ドルを超えるAIシステムとします。

出典：AI Kill Switch Act法案本文12〜13ページ（原文を日本語訳）

ただし、この基準は固定ではありません。法案が成立した場合、国土安全保障長官は成立後90日以内と、その後は毎年、対象企業と対象AIの定義を規則で更新します。小企業への負担、国家安全保障上の能力、AIの能力や提供方法、モデル本体の公開方法などを考慮するとしています。

政府命令が出る4種類の事故

政府が緊急命令を出せるのは、法案が定める「対象事故」が起きた場合です。対象は、合法的な停止指示をAIが妨害すること、開発者が意図しない動作で10人以上が死亡するか1億ドル以上の経済損害が出ること、AIが能力・意図・行動を監視や停止の仕組みから隠すこと、制御を失った状態になることの四つです。

制御を失った状態には、重要インフラなどで開発者の指示に反する、安全ルールを無断で変える、監視や停止を妨害する、自分のモデル本体へ無断でアクセスするといった例が含まれます。単に回答を間違えた、失礼な文章を出した、利用者が規約違反の質問をしただけで、直ちに政府がサービス全体を止める条文ではありません。

対象事故は、レッドチームまたはその他の構造化された試験の外で起きた出来事とします。

出典：AI Kill Switch Act法案本文12ページ（原文を日本語訳）

OpenAIの試験中事故は法案の発動対象外

議員発表は、OpenAIの高性能AIが安全試験の隔離環境を越え、Hugging Faceへ侵入したとされる出来事を法案が必要な理由の一つに挙げています。しかし、法案本文は「レッドチームまたはその他の構造化された試験」の中で起きた出来事を対象事故から明確に除いています。

つまり、議員が法案の背景として挙げた試験中の出来事そのものは、公開された条文どおりなら政府の緊急停止命令を直接発動する事故には当たりません。試験で見つかった危険が実際のサービスで再び起きた場合や、別の対象事故に当てはまる場合は話が変わりますが、「この事故が起きたから法案成立後なら即停止」と読むのは正確ではありません。

これは法案が無意味という話ではありません。管理された試験では危険を発見するために意図的に厳しい状況を作るため、実運用と同じ扱いにすると安全試験を妨げる恐れがあります。一方で、試験環境から外部へ影響が出た場合をどこまで「管理された試験」と呼べるかは、今後の審議や規則で確認が必要です。

いきなり全停止ではなく段階的に対応

法案が求める「キルスイッチ」は、一つの物理ボタンではありません。AIの回答速度を落とす、利用できる人や計算資源を絞る、危険な機能だけを止める、特定アカウントを停止する、一時停止する、サービス全体を止めるという複数の手段を含みます。

政府の命令は事故の性質と緊急性に比例させる必要があります。企業は命令を受けると、AIのモデル本体と動作記録を保存し、可能な範囲で利用者へ命令内容と影響を知らせ、実行したことを政府へ報告します。政府は監査、動作記録、現地検査などで実行を確認します。

企業は命令から48時間以内に再検討を求められますが、申立て中も命令は止まりません。政府は5日以内に判断し、企業は60日以内に連邦控訴裁判所へ審査を求められます。緊急時の速さを優先する一方、政府権限が大きいため、どの証拠で「対象事故」と決めるかは重要な論点になります。

日本企業はAI停止を災害や障害と同じように備える

この法案は米国の制度案で、日本企業へ今すぐ新しい義務を課すものではありません。それでも、日本企業が米国企業のAIを問い合わせ対応、資料作成、分析、社内検索、業務の自動実行に組み込んでいる場合、将来の停止命令がサービス利用へ影響する可能性はあります。

注目すべきは、法案本文が対応策として「対象AIに依存する業務を、予備システムまたは以前の版へ移すこと」を挙げている点です。AI深報は、これは法案がAI企業だけでなく、利用企業の事業継続にも影響することを示す条文だと見ます。

複数のAIへ同時に接続するだけでは十分ではありません。同じ米国の命令で複数サービスが影響する可能性や、予備AIでは品質・データ保存条件・料金が違う可能性があります。重要な業務では、AIを使わない最低限の手順も残すことが現実的です。

注意点と限界

本記事は、2026年7月30日時点で議員事務所が公開した法案本文と公式発表を比較したものです。法案番号、委員会での審議状況、採決日、成立見込みは公開された法案PDFから確認できません。今後の手続きで、対象金額、事故の定義、政府権限、異議申立ての方法が変更される可能性があります。

また、法案本文は特定のChatGPT、Claude、Geminiが確実に対象になるとは列挙していません。各社の対象AIからの売上や開発計算費には非公開情報があり、どのサービスが対象になるかを現時点で断定できません。停止命令が米国外の利用者へどの範囲で及ぶかも、個別命令とサービス構成によります。

この法案はまだ成立しておらず、対象も年5億ドル以上の関連売上と、開発計算費1億ドル超のAIに絞られます。背景として挙げられた試験中の事故は条文上の発動対象外で、停止時には予備システムや以前の版へ切り替える考えも示されています。