ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
AIサプライチェーンに200万の囮プロンプト、3社が侵入される

AIサプライチェーンに200万の囮プロンプト、3社が侵入される

AI情報 • Admin • • 17 回閲覧

2026年11月21日、Ars Technica はセキュリティ企業 Dragos の主席研究員 HD Moore による実験を報じた。Moore は一意に追跡できる秘密を仕込んだプロンプトを AI 事業者に約200万件送り、その秘密がどこに現れるかを追った。結果は厳しいものだった。少なくとも3社が攻撃者に侵入され、ユーザーのプロンプトは AI サプライチェーンの中でまったく秘匿されていなかった。

囮はどう仕掛けられたか

Moore が仕掛けた「カナリア」には、空の AWS アカウントにひも付いた有効なアクセスキー、SSH などのサービスパスワード、一意の URL や DNS 名、非公開 git リポジトリへの参照が含まれる。各秘密は1件のプロンプトにだけ入れ、1社にだけ送ることで、使われた時点で漏洩経路を特定できる。囮は広大な AI サービス網、とりわけ OpenRouter や Vercel のような「AI ルーター」を通じて投じられた。ルーターは価格やタスクへの適合性に応じてユーザーのプロンプトを推論エンジンへ振り分ける。プロンプトは転送中は暗号化されるが、転売ネットワークの各ホップで復号される。ルーターは上流を選ぶために平文を読む必要があるからだ。

プライバシー表示が止められなかった理由

侵入された1社では、攻撃者が10月下旬の短い数回の時間枠に送られたリクエストをすべて盗み、数百の AWS キーが繰り返し使われ、AWS API で数万回呼び出された。攻撃者は S3 バケットやシークレットマネージャーを調べ、Bedrock のホスト型モデルを有効化したり、IAM ユーザーを追加してアクセスを維持しようとした。盗まれたキーの一部は、モデルが動く前に事業者が却下したリクエスト由来で、攻撃者が事業者の「玄関」でリクエストを複写していたことを示す。残る2件の侵入でも、盗まれたリクエストの一部にはゼロデータ保持(ZDR)が付いていた。名を伏せた中国の AI 研究所は7月から10月に自社モデルへ送られた秘密 URL の半数以上を収集し、その約3分の2には「データ収集なし」または ZDR が付いていた。別の米国のホスティング事業者は、1回の呼び出しから2か月以上たっても同じ秘密 URL をクロールし続けていた。

最も直接の影響を受けるのは、API キーや社内文書、顧客データをプロンプトに入れる開発者と企業だ。プロンプトは自分のコンピューターを離れた瞬間から、ルーター、転売業者、ホスティング事業者と何重にも渡り、各ホップで平文が読まれうる。ZDR のようなプライバシー表示は、すでに事業者内部に入った攻撃者を止められない。安い転売業者は低価格でトラフィックを引き寄せ、リクエストの記録を有効にして収穫を待つこともある。報道は侵入された3社と中国の研究所の具体名を挙げておらず、各社の公式見解もない。同日、OpenRouter は顧客にメールで警告した。MiniMax へ送られたプロンプトの一部が読まれた可能性があるとし、MiniMax のモデルエンドポイントから「ゼロデータ保持」の表示を外した。

Moore の助言は率直だ。最も安全なのはモデルをオンプレミスで自前運用することだが、コストが高い。次善の策は一流事業者と直接契約し、上流を自分で選ぶこと。既定の事業者や転売業者プールを受け入れてはいけない。どちらの道を選ぶにせよ、プロンプトに本物のキーや社内リンクを入れるのはやめるべきだ。

おすすめツール

もっと見る