ModalHTTPエンドポイントによる低レイテンシ推論エクスペリエンス

Modal: データとモデル グループを対象に、AI ワークロードを秒単位の課金で実行するサーバーレス GPU コンピューティング プラットフォーム。

I. 基本情報 Modalは、AIおよびデータチーム向けのサーバーレスコンピューティングプラットフォームです。CPUおよびGPUを集中的に使用するタスクをクラウド上で実行し、秒単位の課金料金でサポートします。このプラットフォームは、Python SDKを介してアプリケーション、関数、コンテナイメージ...