ToolNavs 유용한 AI 도구 찾기
도구 제출 로그인
돌아가기 AI 규정 준수
Together AI 프롬프트 유출: 6~7월 세 모델 사용자 자가 점검 가이드

Together AI 프롬프트 유출: 6~7월 세 모델 사용자 자가 점검 가이드

AI 규정 준수 • Admin • • 8 회 조회

2026년 11월 21일, Together AI는 공식 블로그를 통해 2026년 6월부터 7월까지 자사 서버리스 추론 서비스에 제출된 프롬프트 샘플이 권한 없는 제3자에게 다운로드됐다고 발표했다. 영향을 주로 받은 것은 MiniMax M3, GLM-5.2, Kimi K2.6 세 모델의 사용자이며, 요청은 6월 24일, 7월 4일, 7월 8일, 7월 14일에 집중됐다. 회사는 외부 포렌식 조사 업체와 수사 기관에 조사를 의뢰했다고 밝혔다.

유출은 어떻게 일어났나

통상적인 테스트 과정에서 Together AI는 사용 허가를 받은 프롬프트 샘플을 수집해 비공개 Hugging Face 저장소에 보관하고 있었다. 문제는 개발 과정에서 생겼다. 공개 GitHub 저장소 xorl을 개발하던 중 AI 코딩 에이전트가 해당 비공개 저장소에 접근할 수 있는 자격 증명을 코드에 커밋한 것이다. 자동 스캔이 이를 발견해 커밋을 되돌렸지만, 자격 증명이 노출된 시간 안에 권한 없는 제3자는 이미 이를 이용해 샘플을 다운로드했고, 샘플 안에서 다른 서비스의 자격 증명을 찾아 유효성을 검증했다. 그중 5개는 Dragos 보안 실험을 위해 심어둔 카나리아 자격 증명이었다. Together AI에 따르면 데이터가 추가로 유출됐다고 볼 근거는 없으며, 상대방은 데이터를 삭제했다고 한다.

영향 범위는 누구인가

이번 유출의 범위는 명확하다. 서버리스 추론 서비스에만, 위 세 모델에만 해당하고, 요청은 네 날짜에 집중됐다. 다만 '내가 대상인지'는 사용자가 지금 완전히 스스로 확인할 수 없다. Together AI는 영향을 받은 프롬프트를 한 건씩 검토하며 민감한 개인정보나 기타 고객 데이터가 포함됐는지 확인 중이고, 검토가 끝나면 해당 고객에게 직접 연락할 예정이다. 사용자는 먼저 스스로 확인할 수 있다. 6~7월에 이 세 모델을 사용했는지, 프롬프트에 API 키나 개인정보, 업무 관련 내용을 넣었는지 살펴보면 된다. 저장된 채팅 내용을 확인·삭제·관리하는 방법이 자가 점검에 참고가 된다. 발표에는 영향을 받은 사용자 수와 지역이 공개되지 않았고, 데이터 유출 통지 규칙은 관할권마다 다르므로 한 지역의 규칙을 모든 사용자에게 적용할 수는 없다.

지금 해야 할 세 가지

첫째, 계정 설정에서 제로 데이터 보존(ZDR)을 켜는 것이다. Together AI는 이미 신규 계정의 기본값으로 삼았고, 민감한 프롬프트를 다루는 사용자는 직접 켜야 한다. 둘째, 6~7월에 세 모델에 보낸 프롬프트를 되짚어보는 것이다. 포함됐던 API 키, 비밀번호, 액세스 토큰은 모두 교체하고, 개인정보나 업무상 비밀이 포함됐다면 영향을 평가한다. 셋째, Together AI의 직접 연락에 유의하고, 문의가 있으면 공식 보안 연락 창구를 통한다. 회사는 이후 단기 자격 증명 도입과 신규 계정 ZDR 기본 적용 등 네 가지 조치를 바꿨다. 비슷한 논란은 이번만이 아니다. Meta의 Muse도 내부 채팅 노출과 사적 메시지 열람 논란에 휘말렸다.

위험은 아직 두 가지가 미정이다. 프롬프트 속 자격 증명은 상대방이 실제로 유효성을 검증했고, 민감한 개인정보 포함 여부는 검토가 끝나지 않았다. 경계도 분명히 해야 한다. 유출은 서버리스 서비스, 세 모델, 네 날짜에만 한정되며 모든 Together AI 사용자가 영향을 받은 것은 아니다. 교훈은 모델 자체에 있지 않다. 비밀을 프롬프트에 적고, 자격 증명을 코드 저장소에 커밋하는 두 가지 평범한 습관이 겹쳐 테스트용 샘플 보관이 실제 데이터 유출이 됐다.

추천 도구

더보기