Notionは11月12日、セキュリティ勧告を出し、10月のFireworks AIへの侵入で1%未満のワークスペースのNotion AIチャット記録が閲覧されたことを認めた。漏れたのはNotion自体のシステムではなく、Insights機能のためにNotionがFireworksへ分類用に送った会話記録で、ユーザーの入力とモデルの出力が含まれる。FireworksはNotionにゼロデータ保持を約束していた。これらの記録はそもそも保存されるべきではなかった。
10月の侵入から11月の勧告まで
- 10月23〜24日:攻撃者がFireworksのクラウド事業者を経由して研究用マシンに侵入。
- 11月2日:Fireworksが小規模なデータセットへのアクセスを報告。当初は合成テストデータのみと説明。
- 11月3日:NotionがFireworksとの接続を切断し、先方に置いたデータを削除、学習ジョブを停止。
- 11月8日:Fireworksが最終的なデータセットにInsightsのチャット記録が含まれると確認。
- 11月9日:Notionが影響を受けた顧客に連絡。11月11日に漏れたメッセージ中で見つかったNotion APIキーを無効化し、11月12日に第三者のキー発行元へ通知。
影響は二層ある。ユーザー側では、影響を受けた記録の多くに作成者やワークスペースの表示がなく、ツール呼び出しの結果も含まれない。Notionのページ、データベース、ファイルは無事で、AI会議記録の音声も対象外だ。ただしNotion AIの会話にパスワードやAPIキーを貼ったことがあり、通知を受け取ったワークスペースは今すぐローテーションすべきで、通知がなければ当面の対応は不要だ。もう一層はベンダー管理だ。NotionはInsightsを無効化し、Fireworks経由のオープンウェイトモデルの提供を止めた。契約書の「ゼロ保持」がデータの保存を止められなかった。約束は技術的な保証ではない。
Notionは影響を受けた顧客全員に連絡したとしており、ワークスペース管理者はデスクトップアプリのセキュリティインシデント確認画面で結果を見られる。次に注目すべきはFireworksの調査結果と、Notionが同社との協力を再開するかどうかだ。それまでは、ユーザーの会話を第三者のモデル事業者に送る製品はすべて、データがどこに、どれだけ保存されるのかを答えなければならない。