2026년 10월 23일, AWS는 오픈소스 블로그에서 UC 버클리와 함께 만든 에이전트 런타임 Infinity를 소개했다. 에이전트를 항상 머신을 차지하는 상주 프로세스로 취급하는 대신, 도구 호출을 중단 지점으로 삼는다. 에이전트는 도구를 호출하면 일시 중단되고 대화 기록을 저장한 뒤, 결과가 돌아오면 다시 실행을 이어간다. 프로그래밍의 스택리스 코루틴과 비슷한 발상이다. 이 변화가 겨냥하는 것은 에이전트에서 가장 비용이 많이 드는 부분이다. 시간의 상당 부분은 추론이 아니라 도구, 승인, 외부 이벤트를 기다리는 데 쓰인다.
일시 중단이 실제로 아끼는 것
기존 방식에서는 결과를 기다리는 에이전트도 프로세스와 메모리를 계속 차지하므로, 대기 중인 작업이 많아지면 머신이 먼저 가득 찬다. Infinity는 대기 상태를 접어두고 가벼운 기록만 남긴 뒤, 재개할 때 대화 기록과 남은 작업을 다시 연결한다. 개발자 입장에서 호출 방식은 거의 바뀌지 않는다. 바뀌는 것은 런타임이 '대기'를 다루는 방식이다. 기다린다는 것이 더 이상 자원을 차지한다는 뜻이 아니게 된다.
공식 수치는 인상적이다. 8GB 메모리 Raspberry Pi 5에서 Infinity는 7만 5천 개의 에이전트를 동시에 처리할 수 있고, 유휴 에이전트 하나당 약 100KB만 차지한다. 다만 두 가지 비용을 구분해야 한다. 이 수치는 '동시에 멈춰 둘 수 있는 개수'이지 '동시에 빠르게 실행할 수 있는 개수'가 아니며, 모델 호출 자체의 비용과 지연은 그대로 남는다.
서버리스에서도 실행된다
Infinity는 로컬 프로세스에서도, Lambda 같은 서버리스 플랫폼에서도 실행된다. SQS, Aurora DSQL과 함께 쓰면 에이전트는 대기 중에는 컴퓨팅을 쓰지 않고, 결과가 도착하면 깨어난다. 빌드 완료 대기, 사람 승인 대기, 외부 시스템 회신 대기 같은 장기 이벤트 기반 작업에 적합하며, '기다리기 위해서' 머신을 장기간 빌릴 필요가 없어진다.
다중 에이전트 협업도 런타임에 내장되어 있다. Infinity는 spawn_thread, report_to_parent 같은 내장 도구를 제공해 부모 에이전트가 자식 스레드를 만들고 자식 스레드가 결과를 보고하게 한다. 이벤트는 기본적으로 자식 스레드에서 처리되므로, 모든 중간 결과가 부모 에이전트의 컨텍스트에 쌓이지 않는다. 모델 API 자체가 비동기 이벤트를 지원하지 않을 때는 합성 도구 호출로 이벤트를 전달한다.
누가 먼저 혜택을 보고, 무엇을 주의해야 하는가
가장 먼저 혜택을 보는 팀은 에이전트 수가 많고 대기 시간이 긴 팀이다. 고객 서비스, 모니터링, 배치 처리, 장기 후속 업무에서는 최대 동시 실행 수에 맞춰 상주 용량 전체를 미리 확보할 필요가 없어진다. 개인 개발자에게도 Raspberry Pi 규모의 데모는 시도 비용을 낮춘다.
다만 세 가지를 주의해야 한다. 일시 중단이 아끼는 것은 대기 시간의 컴퓨팅 자원이지 모델 호출 요금이 아니다. 비동기 흐름이 많아지면 자식 스레드가 멈추거나 이벤트가 늦어지는 경우를 찾는 일이 분산 작업을 추적하는 일에 가까워진다. 그리고 에이전트의 판단 품질, 도구 권한, 안전 경계는 여전히 상위 설계와 검토에 달려 있다. Infinity는 '에이전트가 더 똑똑해졌다'기보다는 '에이전트를 기다리게 해도 수지가 맞는 기반'으로 이해하는 것이 정확하다.
