11월 9일 AI 추론 플랫폼 Fireworks AI는 10월 보안 사고에 대한 공지를 업데이트하며 침해 영향이 처음 밝힌 것보다 훨씬 크다고 인정했다. 공격자는 내부 자격증명을 탈취했을 뿐 아니라 일부 고객의 청구 정보, 데이터셋, 미완성 모델 가중치에도 접근했다. 이번 업데이트는 한 달여 전 회사의 핵심 설명을 뒤집는 것으로, 이번 사건을 자격증명 유출에서 AI 자산 유출로 격상시킨다. Fireworks는 기업에 모델 추론과 파인튜닝 서비스를 제공하며, Meta의 전 전략 책임자가 최근 합류해 AI 추론 경쟁에 베팅하고 있다.
공지된 시간표에 따르면 Fireworks는 10월 6일 내부 자격증명의 무단 사용을 발견했고, 10월 9일 첫 공지를 내며 고객 모델, 데이터셋, 학습 데이터, 추론 트래픽이 침해됐다는 증거는 없다고 밝혔다. 상황은 10월 하순에 바뀌었다. Fireworks의 연구개발 장비를 호스팅하던 제3자 클라우드 업체가 10월 23일 보안 사고를 겪었고, 다음 날 공격자는 그 틈을 타 Fireworks 개발 장비에 침입해 무단 워크로드를 실행했다. 회사는 당일 활동을 탐지해 조치했고, 10월 25일 기준으로 고객이 사용하는 플랫폼에서 추가적인 무단 접근은 확인되지 않았다고 밝혔다.
접근된 데이터는 세 가지로 나뉜다. 리소스 식별자, 표시 이름, 설명, 생성 시간 등의 리소스 메타데이터, 청구·배송 주소, 송장 및 결제 내역, 계정 잔액과 크레딧 사용량 등의 청구 정보, 그리고 일부 고객의 경우 시크릿과 데이터셋, 일부 미완성 모델 가중치다. Fireworks는 결제 카드 번호를 저장하지 않으며 영향을 받지 않았다고 강조했다. 회사는 이번 공격을 금전적 동기의 그룹 소행으로 보고, 불법 라우팅 게이트웨이를 통해 탈취한 대형 언어 모델 접근 권한을 재판매해 이익을 얻는 수법으로, 'LLMJacking'이라 불린다. Google 위협 인텔리전스 그룹과 Mandiant는 11월 2일 관련 보고서를 냈다.
영향 범위에 대해 공지는 두 가지 선을 긋는다. 추론 서비스와 Training SDK, Nexus에는 영향이 확인되지 않았으며, 세 가지는 기본적으로 데이터 미보존(ZDR) 방식이다. 다만 이 결론은 지금까지의 조사에 근거한 것으로, 조사는 계속되고 있으며 추가 정보가 공개될 수 있다. 대응 조치로 Batch Inference와 데이터셋 기반 학습에 쓰이는 셀프서비스 데이터셋 업로드·다운로드는 조사 기간 동안 비활성화됐다. 회사는 1만 곳이 넘는 고객에게 서비스를 제공한다고 밝히며, 영향을 받은 고객에게 순차적으로 통지하고 대응 방안을 안내하고 있다. Palo Alto Networks의 Unit 42가 조사를 지원하고 있으며 법 집행기관에도 통지했다. 통지를 받은 고객은 지침에 따라 폐기된 키를 교체하고 관련 자격증명을 순환해야 하며, 통지를 받지 않은 고객은 이전 공지에 따르면 당장 조치가 필요 없지만, 플랫폼에 키나 데이터셋을 저장한 적이 있는지 확인해 볼 가치가 있다.
