ToolNavs 便利なAIツールを発見
ツール投稿 ログイン
戻るAI情報
OpenAI Decisions API が正式提供開始、小規模な判断が10倍高速に、課金は入力トークンのみ

OpenAI Decisions API が正式提供開始、小規模な判断が10倍高速に、課金は入力トークンのみ

AI情報 • Admin • • 20 回閲覧

OpenAI の Decisions API は 10 月 22 日に正式提供(GA)を開始した。GPT-6 Luna を基盤とし、「答えの範囲が定まった」小さな判断に特化している。公式発表によると、アプリやエージェントはワークフロー全体で無数の小さな判断を行う。入力へのラベル付け、リクエストの振り分け先、次のアクションの決定——一つひとつは単純だが、規模が大きくなると遅延とコストが積み上がる。

Decisions API はこうした判断を専用の高速レーンに切り出す。開発者は質問と許容される回答を定義し、テキスト・画像・ネイティブ JSON のコンテキストを渡す。API は 3 種類の回答のいずれかを返す。predicate は条件が成立する確率(0〜1、例:商品画像に目に見える破損があるか)。choice は事前定義の選択肢から 1 つを選び(例:続行・再試行・確認)、確率と信頼度を添える。score は順序尺度で評価し、レベル番号の確率加重平均を返す(例:損傷の深刻度)。公式のキーナンバーは、Responses API 経由で GPT-6 Luna を呼ぶより最大 10 倍高速という点だ。

GA ではパブリックベータから多くの機能が追加された。GPT-Live とのネイティブ統合により、リアルタイム音声セッション内で高速判断が可能に。サポートエージェントが追問すべきかエスカレーションすべきかを判断し、アバターがユーザーの発話に合わせて表情を変える。コンテキスト再利用向けのプロンプトキャッシュ、米国・EU での推論レジデンシー、1 リクエストあたり最大 400 問(従来の 2 倍)、アジア複数地域での容量増強も含まれる。

料金も「高頻度の小さな判断」を狙っている。入力トークン 100 万あたり 0.10 ドル、キャッシュ済み入力は 100 万あたり 0.01 ドル。課金は入力のみで出力トークンには課金されない。30 分と 12 時間のキャッシュ書き込みオプションもある。対象顧客は Zero Data Retention も利用できる。

3つの直接的な影響

エージェントが本格稼働すると、ボトルネックは「最も賢い一手」ではなく、数千回の中間判断にあることが多い。従来の開発者は、小さな判断ごとに大規模モデルを呼び出して遅延と請求に耐えるか、自前で小さな分類器を学習して保守コストを負うかの二択だった。Decisions API は「判断」をインフラ化した。答えの空間が固定され、モデルは文章を組み立てる必要がないため、遅延とコストが自然に下がる。

開発者への直接的な影響は 3 層ある。第一に、既存の Responses API ワークフロー内の分類・ルーティング・調停ロジックを、より安い高速レーンに移行できる。第二に、遅延に敏感なリアルタイム音声(サポート、アバター)が初めて公式の「話しながら判断」できる手段を得た。第三に、入力のみ課金により高頻度呼び出しの請求が予測可能になる。これはエージェントをスケールさせる際に最も怖い不確実性だ。

境界も押さえておきたい。対象は答えの範囲が定まった質問のみで、オープンエンドの生成や長い推論は通常のモデルインターフェースを使う。「脳」ではなくエージェントの「反射神経」として使うのが正しい使い方だ。

おすすめツール

もっと見る