2026年11月2日、WIREDが公開した調査によると、400超の相互に関連するアプリとドメインからなるネットワークが、ペットの写真、語学学習、フィットネス指導などのありふれたAIアプリの背後に、ディープフェイクのツールを隠していた。アップルはWIREDから情報提供を受けた後に19本のアプリを削除し、グーグルはそれ以前に大半を削除していた。問題の核心は個々のアプリではなく、「まず審査を通し、あとから内容を差し替える」手法で審査の仕組みがすり抜けられたことだ。アプリストアが目にしたものと、ユーザーが最終的に開くものは、必ずしも同じ製品ではない。
隠し方：まず審査を通し、あとから内容を差し替える
調査が描く手口は3段階だ。まず無害な機能で審査に提出し、ストアの規則に沿っているように見せる。次にインストール後、言語、流入経路、端末識別子などの情報を外部サーバーに送り、サーバーがどちらの画面を見せるかを決める。そして条件が合えば、ユーザーがアップロードした写真からディープフェイクの画像や動画を生成するツールを備えたウェブ画面を読み込む。研究者はさらに、ネットワーク内の数百のアプリとドメイン、暗号化キー、広告トラッカーを列挙したJavaScriptファイルを発見した。WIREDと研究機関はドメインの手がかりを、香港で登記されたKeLing Technology Limitedという企業にたどった。WIREDによると同社は取材要請に応じなかった。この帰属の判断は報道と研究者の追跡に基づくもので、同社側の確認は得られていない。
規模の数字もこの調査によるものだ。2026年9月、研究者はGoogle Play上で関連アプリ27本を確認し、累計ダウンロードは35万件超だった。そのうちDiffAIは10万件超のダウンロードがあり、WIREDがグーグルに連絡する前に削除された。アップルの広報担当者は、アプリは審査時点では規則に適合していたが、開発者が承認後にアプリが読み込むウェブサイトの内容を差し替えたと説明した。Metaは1万1,600件の広告アカウントに措置を講じ、関連アプリ209本の広告をブロックしたとしている。アップルが10月16日に更新した審査ガイドラインは、本人の同意のないAI生成の私的な画像や隠れた機能をすでに扱っているが、規則の厳格化はこのネットワークを止められなかった。
削除の後も、問題は終わっていない
19本の削除で対象になったのは、名指しされた部分だけだ。調査によると、このネットワークはピーク時に週30組前後のアプリとウェブサイトのペアを新たに追加し、調査がまとまる時点でも同様の広告が出続けていた。ユーザーにとってより実践的な注意点はこうだ。アプリストアの審査通過は、アプリが読み込むすべての内容が審査済みであることを意味しない。出所が不明で、機能の説明があいまいで、個人の写真のアップロードを求めるアプリには特に注意が必要だ。プラットフォームが次に答えるべき問いは具体的だ。サーバー側での内容の差し替えを、報道機関の調査の後ではなく、アプリの稼働中に検出できるのか。AI生成コンテンツに識別可能な印を付ける方法も、すでに試されている別の道であり、Claudeのテキスト透かしを4モデルへ拡大の記事では、その実際の効果と回避方法を論じている。
