11月9日、AI推論プラットフォームのFireworks AIは10月のセキュリティインシデントに関する公告を更新し、侵害の影響が当初の発表よりはるかに大きかったことを認めた。攻撃者は内部の認証情報を入手しただけでなく、一部の顧客の請求情報、データセット、未完成のモデル重みにもアクセスしていた。今回の更新は1か月以上前の同社の重要な説明を覆すもので、この事件を認証情報の漏えいからAI資産の流出へと格上げする。Fireworksは企業向けにモデルの推論とファインチューニングを提供しており、Metaの元戦略責任者が最近同社に加わり、AI推論の競争に賭けている。
公告の時系列によると、Fireworksは10月6日に内部認証情報の不正使用を発見し、10月9日に最初の公告を出して、顧客のモデルやデータセット、学習データ、推論トラフィックに影響があった証拠はないとした。状況が変わったのは10月下旬だ。Fireworksの研究開発マシンをホストするサードパーティーのクラウド事業者が10月23日にセキュリティインシデントを起こし、翌日、攻撃者はその隙を突いてFireworksの開発マシンに侵入し、未承認のワークロードを実行した。同社は当日に活動を検知して対策を講じ、10月25日時点で顧客が利用するプラットフォーム上でそれ以上の不正アクセスは確認されていないとしている。
アクセスされたデータは3種類に分かれる。リソースの識別子や表示名、説明、作成日時などのリソースメタデータ、請求先・配送先住所や請求書と支払い履歴、アカウント残高とクレジット使用量などの請求情報、そして一部の顧客についてはシークレットやデータセット、一部の未完成のモデル重みだ。Fireworksは支払いカード番号を保存しておらず、影響はなかったと強調している。同社は攻撃を金銭目的のグループによるものとし、不正なルーティングゲートウェイを通じて盗んだ大規模言語モデルへのアクセスを転売して利益を得る手口で、「LLMJacking」と呼ばれる。Googleの脅威インテリジェンスグループとMandiantは11月2日にこの手口に関する報告を出している。
影響範囲について、公告は2つの線を引いている。推論サービスやTraining SDK、Nexusへの影響は確認されておらず、いずれもデフォルトでゼロデータリテンションであること。ただし、この結論は現時点までの調査に基づくもので、調査は継続中で、今後さらに情報が開示される可能性がある。対応として、Batch Inferenceやデータセットを使う学習で用いるセルフサービス形式のデータセットのアップロードとダウンロードは、調査期間中無効化された。同社は1万社以上の顧客にサービスを提供しているとし、影響を受けた顧客に順次通知して対応策を案内している。調査にはPalo Alto NetworksのUnit 42が協力し、法執行機関にも通知済みだ。通知を受け取った顧客は指示に従い、無効化されたキーを交換し、関連する認証情報をローテーションすべきだ。通知を受け取っていない顧客は、以前の公告によれば当面の対応は不要だが、プラットフォーム上にキーやデータセットを保存したことがないか確認しておく価値はある。
