人には読めてAIには読みにくい「Ghost Font」公開──動画の動きで文字を表現

何が発表されたか

フォント関連サービスを提供するMixfontは、人には読めてもAIには簡単に解読されにくい文字表現「Ghost Font」を公開しました。ブラウザ上で最大36文字の短いメッセージを入力し、動く点で文字を見せる動画として保存できます。

名前に「Font」とありますが、一般的なTTF形式のフォントファイルではありません。公式ページは、動き、動画、ノイズ、おとりを組み合わせて、人とAIの見え方の違いを試す実験だと説明しています。

詳細

Ghost Fontでは、背景と同じように見える点の動きによって文字を表現します。人は動画の中で点が移動する様子を追って文字を読みます。一方、動画を一枚の静止画として切り出すと点が混ざり、文字の形が分かりにくくなります。

さらに、動画には本当の文章とは別のおとりのメッセージが含まれます。公式ページによると、AIが隠れた文字を探したときに、先におとりを見つけて本物だと判断する可能性を狙った仕組みです。入力した内容と動画の生成は端末内で行い、データをサーバーへ送らないと説明されています。

Mixfontは複数のAIモデルで試した結果を画像付きで掲載し、正しいメッセージを簡単には読めなかったとしています。ただし、これは開発者による実験結果であり、第三者が同じ条件で確認した性能保証ではありません。AIの種類、動画の読み取り方、指示の出し方によって結果が変わる可能性があります。

限界と注意点

公式ページは、専用のコード実行環境を持つAIなら、点の動きを解析してメッセージを解読できると認めています。また、本当に文章を隠したい場合は、パスワードや鍵を使う暗号化が必要だとも説明しています。Ghost Fontは、機密情報を安全に送るための製品ではありません。

そのため、顧客情報、社内文書、パスワードなどをGhost Fontだけで守るべきではありません。「AIには読めないから安全」と考えて公開すると、人による目視、動画解析、将来のAI性能向上によって内容が漏れるおそれがあります。

なぜ重要か

今回の実験が示すのは、今の画像AIが静止画を読むのは得意でも、時間の流れを含む動画の変化を正確に追うことには難しさが残るという点です。Mixfontは、将来の活用先としてCAPTCHAやAIの視覚能力を測るテストを挙げていますが、現時点では構想であり、実用化済みではありません。

会社にとっては、AI対策を見た目の工夫だけに頼らないことが重要です。公開したくない情報は暗号化し、誰が見られるかを管理する必要があります。一方で、AIの読み取り能力を評価する研究や、不正な自動操作を見分ける仕組みを考える材料としては、動画の動きを使う今回の方法は興味深い実験です。