自己複製AIの現実味増す　企業と在宅勤務で見直すIoT端末管理

家電15台で26Bモデルが動いた

AnthropicのFrontier Red Teamは10月12日、小型AIがデータセンターを使わず、市販のIoT機器上で自己複製する可能性を調べた研究を公開しました。IoTはテレビ用端末、監視カメラ、会議機器など、ネットにつながる機器の総称です。研究チームは1台約55ドルの無名ブランドAndroid TVボックスを15台つなぎ、Gemma4-26B-A4Bという260億パラメータ規模のモデルを毎秒0.39トークンで動かしました。

小型AIモデルは、スマートオーブンや無名ブランドのAndroid TVボックスのような市販IoT機器上で自己複製できる能力に、数カ月で届く可能性がある。

出典：Anthropic Frontier Red Team（要約）

重要なのは、GPUサーバーを奪わなければAIを動かせないという前提が崩れ始めたことです。1台では力の弱い家電でも、複数台へモデルを分割すれば推論基盤になります。AI深報編集部は、攻撃者が狙う価値が「高価な計算機」から「大量にあり、更新されず、管理者が把握していない端末」へ広がる兆候だとみます。

自己複製はまだ完成していない

今回の実験を、AIワームが家庭や会社へすでに広がった証拠と読むのは早計です。自己複製には、対象を探す、侵入する、侵入先でAIを動かす、次の端末へ広がるという工程があります。Anthropicが主に測ったのは、侵入先で推論環境を立ち上げる部分です。実験用ネットワークではAndroid Debug Bridgeのポートに認証を設けず、現実の侵入を簡単にしたため、研究チーム自身も成功率を実環境の上限と位置付けています。

それでも、工程をつなぐ能力は無視できません。簡略化した17ノードの試験では、GLM-5.2が5回中4回で8台すべて、残る1回でも7台へ複製しました。一方、IoTで動かしやすい9B級モデルと、この工程を安定して完遂できる能力の線はまだ交わっていません。小型モデルが過去と同じ速度で伸びるという仮定では2026年末に線が交わるとの推計ですが、一般能力を自己複製能力の代理にした粗い予測です。

つまり、今すぐ発生した被害ではなく、守りを整える猶予が短くなったというニュースです。小型モデルの伸びが鈍る、IoTの認証や更新が改善する、分散推論が不安定なままなら脅威の到来は遅れます。反対に、初期パスワードや未更新機器が残り続ければ、AI側が完全でなくても古い攻撃手口と組み合わさる余地が残ります。

企業の防御は端末台帳から始まる

企業が最初に行うべきなのは、AI製品の禁止ではなく、社内ネットワークにつながる機器の洗い出しです。テレビ会議端末、監視カメラ、デジタルサイネージ、複合機、NAS、入退室機器を台帳へ並べ、機種、設置場所、管理者、ファームウェア、更新期限、外部通信先を記録します。管理者が決まっていない端末と、サポートが切れた端末から優先して外すか交換します。

NISTは、IoT端末を守るにはネットワーク上に何があり、通常どこへ通信する必要があるかを把握することが重要だとしています。必要な通信が分かれば、それ以外を止めるアクセス制御を設計できるからです。端末自体の防御機能が足りない場合は、業務PCやサーバーと論理的に分離する方法も示しています。

ネットワークを適切に保護するには、管理者がどの端末が存在し、それぞれが業務のためにどの通信を必要とするかを理解する必要がある。

出典：NIST NCCoE（要約）

全端末を一度に更新できない会社では、IoT用のVLANや別SSIDを作り、基幹システム、顧客情報、管理用アカウントへ直接届かない構成を先に整えるほうが現実的です。CISAも端末・ファームウェアの在庫更新と強いネットワーク分離を推奨しています。今回の研究に固有の対策というより、従来のIoT防御を急いで実行する理由が一つ増えたと捉えるべきでしょう。

在宅勤務はゲストWi-Fiで仕事端末を分ける

家庭でも対策の考え方は同じです。仕事用PCと、安価なテレビ端末、見守りカメラ、スマート家電を同じWi-Fiへ置かないようにします。多くの家庭用ルーターではゲストWi-Fiを使うだけでも、機器同士の直接通信を分けられます。初期パスワードを変更し、自動更新を有効にし、メーカーの更新が終わった機器は買い替え候補へ入れます。

ただし、ゲストWi-Fiという名前だけで分離を信じてはいけません。ルーターの設定で、ゲスト側から家庭内LANへアクセスできないことを確認します。業務PCから家庭のNASやプリンターへ接続する必要がある場合は、何を許可するかを先に決め、常時すべてを通す構成に戻さないことが大切です。

遅い攻撃を見逃さない監視へ

Anthropicの試算では、9Bモデルが推論環境を整えるだけでも28〜51時間かかります。遅さは無害さではありません。通常はほとんど外へ通信しないカメラや会議端末が、長時間にわたり新しい宛先へ接続し、データ量を増やすなら調査対象です。ネットワーク機器のログを残し、端末ごとの通常通信を基準に、未知の宛先や夜間の継続通信へ警告を出せるようにします。

今後、認証がある実機環境でも小型モデルが侵入から複製まで独立再現されれば、AIワームは予測から実務上の脅威へ一段進みます。それまでは「AI専用の新しい防御製品」を急いで買うより、台帳、更新、分離、ログという既存対策を完了させるほうが効果的です。まず今週、会社と家庭でネットにつながる機器を一覧にし、仕事用端末と同じネットワークに置く必要がないものを分ける。それが今回の研究から持ち帰れる具体策です。