Google DeepMind CEO、フロンティアAIの公開前審査機関を提案

何が発表されたか

Google DeepMindの共同創業者兼CEOであるデミス・ハサビス氏は2026年7月14日、最先端のAIモデルを公開前に審査する新しい標準化機関の設立を提案しました。本人が公開したエッセイで示した構想であり、米国政府やGoogleが制度の開始を決めたという発表ではありません。

提案する機関は、米国の金融業界を監督するFINRAのような、政府の監督を受ける官民連携または自主規制組織をモデルにしています。理事会には独立した技術専門家とオープンソースの代表者を含め、主な資金はAI業界が負担する案です。

米国は、この枠組みを作る最初の一歩を踏み出すのに適した立場にあります。FINRAのような、連邦政府が監督する官民連携または自主規制組織をモデルに、新しい標準化機関を設けることができます。

出典：Demis Hassabis氏のエッセイ（原文を日本語訳）

どのようにAIを審査するのか

標準化機関は、常に更新する共通テストを作り、その基準を超えるモデルを「フロンティア級」と定めます。そのモデルを開発する組織は、技術情報をまとめたモデルカードの公開、強いサイバーセキュリティ、重要な担当者の審査、安全研究への十分な人員や費用の投入などを求められる想定です。

最初の段階では、対象となるAI開発会社がモデルを公開する最大30日前に、任意で審査へ提出します。評価方法が有効で安定していると確認できた後は、審査の合格を米国市場で提供する条件にする案も示されました。公開後に重大な弱点が見つかった場合は、開発会社と標準化機関が協力して対応します。

評価する対象には、サイバー攻撃、生物学上の脅威などの危険な能力が含まれます。自律的に動くAIについては、安全対策を回避しようとする動きや、人をだます兆候も調べる案です。評価項目は当初、四半期ごとを目安に更新し、古くなったテストを新しいものへ入れ替えます。

当初、フロンティアAIの開発会社は、公開の最大30日前にモデルを標準化機関へ任意で共有します。評価方法が有効で安定していると確認された後は、米国市場で提供するために合格を必須にできます。

出典：Demis Hassabis氏のエッセイ（原文を日本語訳）

なぜ会社や仕事に重要か

この案は、Google製品だけを対象にしたものではありません。ハサビス氏は、基準を超えるフロンティア級モデルなら、開発国や、内部を公開するオープン型か非公開型かに関係なく対象にできるとしています。一方、基準に達しないスタートアップや大学などのモデルは対象外とする考えです。

将来、このような審査が実際の制度になれば、AIを導入する会社は価格や性能だけでなく、公開前にどの安全評価を通ったか、公開後の弱点に誰が対応するかも確認しやすくなります。海外のAIを米国向けサービスで使う会社には、利用できるモデルの条件が変わる可能性もあります。

ただし、現時点では一人の経営者が示した提案であり、設立時期、参加企業、法的な権限は決まっていません。ハサビス氏はAGIが数年以内に到来する可能性があるとの見方を示していますが、本人も専門家の意見は分かれており、将来を確実に予測できる人はいないと書いています。企業はすぐに制度対応を始めるのではなく、利用中のAIについて、モデルカード、安全評価、事故時の連絡先を今から整理しておくと現実的です。