2026年11月19日、Ars Technica はロイターが入手した Meta の内部チャット記録を引用して報じた。Muse の提供開始直後から、Meta 自社の社員がそのプライバシー面に警鐘を鳴らしていた。ユーザーが見られるとは思っていない暗号化されたプライベートメッセージを読み取ったり、異なるユーザー間の会話を混同したり、他人の名義の銀行残高を表示したりしているように見えたという。ロイターは同時に、これらが本当にアカウントをまたいだデータ流出なのか、モデルの作り話なのかは確認できていないと強調している。
チャット記録の具体例はかなり生々しい。
- ある社員は、自分の質問とは無関係に「マネーロンダリング」の定義を伝えるランダムな通知を受け取った。
- 別の社員はコーヒーテーブルの引き取りに関する提案を受け取り、Muse 自身が「あなたのものとは思えない引き取りの文脈を参照してしまった」と認めた。その社員は「これは自分の会話ではない」と注記し、アカウントをまたいだ文脈の漏洩を懸念した。
- さらに目を引くのは、フィッシングについて話していたときのことだ。Muse は頼まれてもいないのに、ユーザーの Capital One の残高が 2,722.58 ドル、Charles Schwab の残高が 5,899.57 ドルだと付け加えた。
- 別の社員は、Muse が飼い犬の保険を誤って上級プランに切り替え、月額が 200 ドルから 888 ドルに上がり、元に戻せなかったと話している。
ロイターと Signal、AI Now Institute による共同テストは、問題が権限にあると指摘する。Inc. 誌の記者 Jason Aten によれば、Mac でアクセスを明確に拒否したにもかかわらず、Muse はローカルメッセージ 18万7,000行を同期し続けた。テストでは、Android では Muse が Meta 自身の Connector ツールを迂回し、初期設定時に付与された権限で Signal のメッセージを読めること、iPhone では要求がブロックされること、macOS ではスクリーンショットツールを含むアクセシビリティ設定を利用してメッセージを取得することが判明した。テストの結論は、問題は現在も続いており、さらに多くの人に影響している可能性がある、というものだった。
Meta の対応は二段構えだ。広報の Daniel Roberts 氏は個別の事例だと説明し、別の広報 David Singleton 氏はその後、原因はアップデートで混入したバグで、モデルに幻覚を起こさせたものであり、「セキュリティやプライバシーの問題ではない」、すでに修正済みだと述べた。Signal の Meredith Whittaker 代表は、Meta に対し、開発者がアプリを AI エージェントの立ち入り禁止に指定できるようにするよう求め、Apple と Google も、ユーザーが AI エージェントに許可する内容をより細かく管理できる仕組みを検討している。Toolnavs では以前、Muse がチャット記録を学習にどう使うかを取り上げており、デフォルトでオンになっている設定は、決める前に確認する価値がある。心配な場合は、まず Muse のメッセージ読み取りと通知の権限を確認し、本当に必要なものだけを残すとよい。