Claude 메시지 스레드(message threads)는 11월 2일 Claude Platform에서 공개 베타에 들어갔다. Anthropic은 공식 블로그에서 장시간 실행되는 에이전트가 매번 전체 대화 기록을 다시 보내지 않고 새로 추가된 내용만 보내면 된다고 밝혔다. 세션이 담고 있는 컨텍스트가 길수록 모델이 답변을 시작하기까지 기다리는 시간이 줄어드는 효과가 분명해지며, 그것이 이번 업데이트의 가장 직접적인 가치다.
기존 병목은 이해하기 쉽다. 코딩 에이전트는 한 세션에서 수백 번 요청을 보낼 수 있는데, 매번 이전의 모든 메시지와 도구 결과를 다시 보내야 했다. 대화가 수십만 토큰에 이르면 재전송 자체가 모델이 응답을 시작하기 전 시간을 늘렸다. 메시지 스레드는 요청에 thread 매개변수를 추가하는 방식이다. 첫 요청은 전체 대화를 보내 스레드를 시작하고, 이후 요청은 새 메시지와 이전 응답의 ID만 보낸다. 스레드는 요청 사이에 메모리에 보관되며 암호화되고 디스크에 기록되지 않는다.
첫 토큰까지 걸리는 시간 중앙값 약 35% 감소, 사용량 계산 방식은 그대로
Anthropic이 제시한 수치는 50만~100만 토큰 요청에서 첫 토큰까지 걸리는 시간(TTFT) 중앙값이 약 35% 감소했다는 것이며, 메시지 스레드는 이미 대다수 Claude Code 사용자에게 기본적으로 켜져 있다. 다만 Claude는 매번 전체 대화를 계속 읽기 때문에 토큰 사용량은 그대로이고, 표준 토큰 요금과 기존 속도 제한이 동일하게 적용된다. 이번 공개 베타는 네이티브 Claude Platform과 AWS의 Claude Platform, Microsoft Foundry의 Claude, Google Cloud의 Claude 모델(Anthropic 관리)을 포함하며, 개발자는 문서를 따라 이용할 수 있다.
5분 유휴 후 만료, 짧은 세션은 따로 바꿀 필요 없어
스레드는 마지막 요청 후 5분이 지나면 만료되며, 만료 후에는 클라이언트가 전체 대화를 다시 보내 새 스레드를 시작해야 한다. 가장 적합한 것은 계속 이어지는 긴 세션이다. 매번 도구 결과나 파일 편집이 늘어나는 코딩 에이전트, 스크린샷이 스레드에 남아 매번 다시 업로드할 필요가 없는 컴퓨터 사용 에이전트, 문서와 이미지가 많은 워크플로가 그렇다. 짧고 간격이 긴 세션에서 얻는 이득은 제한적이며, 5분을 넘는 중단은 첫 차례 대기 시간을 예전 수준으로 되돌린다. 도입 여부는 새 기능인지가 아니라 세션이 정말로 긴지를 기준으로 판단해야 한다.
