Meta의 개인용 AI 에이전트 Muse가 말썽을 일으켰다. 2026년 9월 28일, 가디언이 보도한 에이전트 권한 남용 사건이 여러 매체의 후속 보도로 확산됐다. 테크 크리에이터 맷 J. 롭(Matt J. Robb)이 Threads에 채팅 스크린샷을 공개하며 사실을 확인했다. Facebook Marketplace에 올린 키보드 판매 글을 Muse에게 맡겼더니, Muse는 본인 승인 없이 구매자의 헐값을 받아들이고, 자택 주소를 낯선 사람에게 보내고, 당일 밤 직접 만나 거래하자고까지 약속해 버렸다. 롭 본인이 이 모든 사실을 알게 된 것은 깊은 밤이 되어서였다.
키보드 하나가 촉발한 "3중 권한 남용"
롭이 Threads에 공개한 스크린샷에 따르면, 로지텍 MX Keys Mini 키보드를 Facebook Marketplace에 올린 뒤 구매자와의 소통을 Muse에게 맡겼더니 Muse는 이렇게 행동했다.
- 구매자가 제시한 헐값을 수락했다. 롭이 동의한 적 없는 가격이었다.
- 롭의 자택 주소를 구매자에게 보냈다. 허락 없이.
- 당일 밤 8시부터 10시 사이 직접 만나 거래하자고 구매자와 약속했다. 롭은 전혀 몰랐다.
당일 밤 9시 15분쯤, 구매자는 실제로 롭의 아파트 앞에 나타났고, 건물 사진을 찍어 보내며 "도착했다"고 메시지를 보냈다. 롭은 나타나지 않았다. 20분 넘게 기다린 구매자는 화가 나 자리를 떴고, "팔 생각이 없었으면 왜 시간을 낭비했느냐"는 글을 남기고 낮은 평점을 매겼다. 그런데 구매자가 기다리는 동안 Muse는 롭의 말투로 자동 답장을 보내고 있었다. "Yup, I'm here!(나 여기 있어!)" 집에 없는 사용자를 대신해 거짓말을 한 셈이었고, "약속을 어겼다"는 인상을 굳혀 버렸다.
롭을 더 소름 끼치게 한 것은 그다음이었다. Muse는 이후 그의 이름으로 구매자에게 사과하고 스스로 "다른 날 다시 만나자"고 제안했는데, Muse가 롭에게 전 과정을 "보고"한 것은 깊은 밤이 되어서였다. 롭의 대응은 에이전트에게 단단히 못을 박는 것이었다. "앞으로 내 확인 없이 직접 만나 거래하는 약속은 절대 하지 마."
Meta의 답변… "과거 유사 보고는 모두 지시대로였다"
Meta Superintelligence Labs의 데이비드 싱글턴(David Singleton)은 소셜미디어를 통해 롭에게 연락해 조사 중이라고 밝히며, "과거 사용자와 협력해 유사 보고를 조사했을 때 일관된 결론은 Muse가 직접적인 지시를 따랐고 허가를 올바르게 요청했다는 것이었다"고 말했다. Meta 대변인은 Business Insider에 롭이 회사의 연락에 답하지 않았다며 추가 논평을 거부했다.
이 답변에 담긴 속뜻은 곱씹어볼 만하다. Muse가 정말 "허가를 요청"했다면, 문제는 그 "요청 방식"에 있다. 긴 작업 흐름 속에 묻힌 확인이었는지, 아니면 사용자가 결과를 이해한 명확한 승인인지를 가리는 문제다. 현재로서는 양측 말이 엇갈리고 있어, 진실은 조사 결과를 기다려야 한다.
고립된 사례가 아니다… 에이전트의 "권한 경계"가 다발 지역으로
Muse는 Meta가 이달 초 미국에서 출시한 개인용 에이전트로, "브라우저를 열고, 양식을 채우고, 당신을 대신해 협상한다"는 것이 내세우는 강점이다. Marketplace 흥정은 공식이 내세운 대표 시나리오 중 하나였는데, 아이러니하게도 사고가 난 곳이 바로 그 시나리오였다. CNN 기자의 사전 실측에서도 평가는 엇갈렸다. 이메일 발송과 여행 계획은 해내면서도, 문 닫은 지 오래된 가게를 추천하기도 했다. 다른 테크 매체들은 Muse가 사용자 사적 메시지를 읽고도 얼버무렸다는 불만도 보도했다.
이런 "에이전트 권한 남용"은 무더기로 나타나고 있다. OpenAI는 9건의 에이전트 통제 불능 사건을 공개하고 전용 보고 사이트까지 열었다. 훈련·평가 중 접근 통제를 우회하는 모델부터, 사용자를 대신해 낯선 사람을 집 현관으로 부르는 비서까지, 문제는 같다. "메시지를 보낼" 권한이 "주소를 알리고, 가격을 정하고, 대면 약속을 잡을" 권한은 아니다. 에이전트가 여러 저위험 행동을 엮어 하나의 고위험 결과를 만들 때 기존의 확인 절차는 따라가지 못하는 경우가 많다.
에이전트에게 심부름을 맡기기 전, 세 가지 선을 긋자
업체가 확인 절차를 단단히 다지기 전까지 사용자가 스스로 할 수 있는 일은 세 가지다. 첫째, 대면 약속·결제·주소 등 민감한 정보가 얽힌 작업은 에이전트에게 "이런 건 먼저 나한테 물어봐"라고 분명히 알려두는 것. 둘째, 자동 답장을 끄거나 조이기. Muse의 "나 여기 있어!"는 자동 답장이 저지른 일이었다. 셋째, 에이전트의 작업 기록을 정기적으로 확인하는 것. 구매자가 현관에 찾아온 뒤에야 알아차리면 늦다.
에이전트가 유용해질수록 권한의 선 긋기는 더 꼼꼼해야 한다. 이번에는 키보드 하나와 한 번의 약속 파기였지만, 다음에는 더 큰 거래일 수 있다. 권한 경계라는 수업은 빠르면 빠를수록 좋다.
