2026年9月22日、AIモデルAPIアグリゲーションプラットフォームのOpenRouterは、公式ブログでBatch APIの提供開始を発表しました。リクエストをまとめて一括送信すると、プロバイダーが24時間のウィンドウ内で実行時間を自由に調整する代わりに、料金は通常、標準のトークン単価の50％、モデルによってはそれ以下に下がります。提供開始初日から70以上のモデルが対応しています。
半額と引き換えにするもの：確実性
Batch APIの核心的な取引は明快です。「今すぐ結果が欲しい」を諦める代わりに、プロバイダーは「オフピークでスケジューリングする」自由を得ます。呼び出し方は、api/v1/batchesにリクエストのリストをPOSTし、エンドポイントの形状を指定します。チャット補完、responses、messages、embeddingsの4種類に対応。送信後はバッチのステータスをポーリングし、completed、failed、expired、cancelledのいずれかになるまで待ち、結果はインラインで返されます。
OpenAIのBatch APIと同じ発想ですが、OpenRouter版には2つの違いがあります。第一に、ルーティングは「ユーザーの許可リスト、データポリシー、BYOK設定の下で最も安いバッチエンドポイント」をデフォルトで選択し、1つのバッチは単一プロバイダーで固定されます。第二に、各リクエストの結果は独立して返されるため、数件の不良データがバッチ全体を台無しにしません。入力と結果は30日間保持され、DELETEでいつでも削除できます。
2週間のベータデータ：想像より速いが、時間帯が鍵
OpenRouterは23万件超のバッチを対象とした2週間のベータデータを公開しました。中央値は7分で完了、90％が1時間以内に終了しています。つまり、24時間待たされることはほぼありません。
ただし時間帯の影響は明確です。太平洋時間の午前5時から正午に送信されたバッチは著しく遅く、最も遅い10分の1は2〜4.5時間かかります。その他の時間帯では90パーセンタイルが1.1時間を下回り、太平洋時間の午後6時以降は50分を切ります。バッチサイズの影響はむしろ小さく、1,000件以上のリクエストでも中央値は12〜21分で完了します。
向いているタスク、向いていないタスク
向いているのは、コーパスのラベリング、embeddingsのバックフィル、評価セットの採点、チケット滞留分の要約、同じプロンプトを数千行のデータに適用する作業など、「一晩待てる」ワークロード全般です。
向いていないのは、リアルタイムチャット、音声・動画入力が必要なタスク（バッチでは未対応）、OpenRouterのウェブ検索プラグインに依存するリクエスト（検索呼び出しは標準料金で課金され、プラグイン自体がバッチ非対応）です。画像やファイルの入力は公開URLである必要があります。
APIコスト構造への意味
Batch APIは「レイテンシ」を正式に取引可能な商品に変えました。個人開発者や小規模チームにとって、高額で大規模に回せなかった評価やデータ処理のタスクに、公式の固定半額チャネルができたことになります。代償はワークフローの変更です。リクエスト—レスポンスの一往復ではなく、送信—ポーリング—結果回収という非同期フローになります。この書き換えを受け入れられるチームは、推論コストがそのまま半分になります。
