ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 정보
AI 공급망에 200만 개의 미끼 프롬프트, 3개 업체 침해돼

AI 공급망에 200만 개의 미끼 프롬프트, 3개 업체 침해돼

AI 정보 • Admin • • 17 회 조회

2026년 11월 21일, Ars Technica는 보안 기업 Dragos의 최고연구책임자 HD Moore의 실험을 보도했다. Moore는 고유하게 추적할 수 있는 비밀을 심은 프롬프트를 AI 업체에 약 200만 건 보내고, 그 비밀이 어디에 나타나는지 추적했다. 결과는 암울했다. 최소 3개 업체가 공격자에게 침해됐고, 사용자가 제출한 프롬프트는 AI 공급망 안에서 전혀 비공개로 유지되지 않았다.

미끼는 어떻게 심었나

Moore가 심은 '카나리아'에는 빈 AWS 계정에 연결된 유효한 액세스 키, SSH 등 서비스 비밀번호, 고유 URL과 DNS 이름, 비공개 git 저장소 참조가 포함됐다. 각 비밀은 하나의 프롬프트에만 넣고 한 업체에만 보내, 사용되면 유출 경로를 특정할 수 있게 했다. 미끼는 방대한 AI 서비스망, 특히 OpenRouter와 Vercel 같은 'AI 라우터'를 통해 투입됐다. 라우터는 가격이나 작업 적합성에 따라 사용자 프롬프트를 추론 엔진으로 보낸다. 프롬프트는 전송 중에는 암호화되지만, 재판매 네트워크의 매 홉마다 복호화된다. 라우터가 상위를 고르려면 평문을 읽어야 하기 때문이다.

개인정보 표시가 막지 못한 이유

침해된 한 업체에서는 공격자가 10월 하순 몇 차례의 짧은 시간대에 보내진 모든 요청을 훔쳤고, 수백 개의 AWS 키가 반복 사용돼 AWS API에서 수만 번 호출됐다. 공격자는 S3 버킷과 비밀 관리자를 뒤지고, Bedrock 호스티드 모델을 활성화하거나 IAM 사용자를 추가해 접근을 유지하려 했다. 도난 키 일부는 모델이 실행되기 전에 업체가 거부한 요청에서 나왔는데, 이는 공격자가 업체의 '현관'에서 요청을 복사했음을 보여준다. 나머지 두 침해에서도 도난 요청 일부에 제로 데이터 보존(ZDR)이 표시돼 있었다. 이름을 밝히지 않은 중국의 AI 연구소는 7월부터 10월까지 자사 모델로 보내진 비밀 URL의 절반 이상을 수집했고, 그중 약 3분의 2에는 '데이터 수집 안 함' 또는 ZDR 표시가 있었다. 또 다른 미국 호스팅 업체는 한 번의 호출이 있은 지 두 달이 넘었는데도 같은 비밀 URL을 계속 크롤링하고 있었다.

가장 직접적인 영향을 받는 쪽은 API 키, 내부 문서, 고객 데이터를 프롬프트에 넣는 개발자와 기업이다. 프롬프트는 자신의 컴퓨터를 떠나는 순간부터 라우터, 재판매 업체, 호스팅 업체를 여러 단계 거치며, 매 단계마다 평문이 읽힐 수 있다. ZDR 같은 개인정보 표시는 이미 업체 내부에 들어온 공격자를 막지 못한다. 저렴한 재판매 업체는 낮은 가격으로 트래픽을 끌어들인 뒤 요청 기록을 켜고 수확을 기다릴 수도 있다. 보도는 침해된 3개 업체와 중국 연구소의 실명을 밝히지 않았고, 각 사의 공식 입장도 싣지 않았다. 같은 날 OpenRouter는 고객에게 이메일을 보내 경고했다. MiniMax로 보내진 프롬프트 일부가 읽혔을 수 있다며, MiniMax 모델 엔드포인트에서 '제로 데이터 보존' 표시를 제거했다.

Moore의 조언은 단호하다. 가장 안전한 방법은 모델을 온프레미스로 직접 운영하는 것이지만 비용이 많이 든다. 차선책은 일류 업체와 직접 계약하고 상위를 직접 고르는 것이다. 기본으로 정해진 업체나 재판매 업체 풀을 그대로 받아들여서는 안 된다. 어느 쪽을 택하든 프롬프트에 실제 키와 내부 링크를 넣는 일은 그만둬야 한다.

추천 도구

더보기