일괄 처리 대기열 최적화

GPT-5 한도 증가 해머: TPM 및 일괄 처리 이중 개선을 위한 착륙 가이드

GPT-5 및 GPT-5-mini API 전류 제한 증가: 대규모 추론 및 일괄 처리를 위한 다중 TPM 이번 증가는 GPT-5의 티어 1이 30K TPM에서 500K TPM으로 상향 조정되었으며(일괄 처리 제한은 1.5M), 티어 2는 1M(일괄 처리 제한은 3M),...