ModalHTTP 엔드포인트를 통한 저지연 추론 경험

모달: 초당 요금으로 AI 워크로드를 실행하는 서버리스 GPU 컴퓨팅 플랫폼으로, 데이터 및 모델 그룹을 대상으로 합니다.

I. 기본 정보 Modal은 AI 및 데이터 팀을 위한 서버리스 컴퓨팅 플랫폼으로, 클라우드에서 CPU 및 GPU 사용량이 많은 작업을 초 단위 요금으로 실행할 수 있도록 지원합니다. 이 플랫폼은 Python SDK를 통해 애플리케이션, 함수, 컨테이너 이미지 및 필요...