ToolNavs Outils IA à découvrir
Proposer Connexion
Retour à Informations sur l’IA
L'API Decisions d'OpenAI devient GA : décisions simples 10x plus rapides, facturation aux tokens d'entrée uniquement

L'API Decisions d'OpenAI devient GA : décisions simples 10x plus rapides, facturation aux tokens d'entrée uniquement

Informations sur l’IA • Admin • • 20 vues

L'API Decisions d'OpenAI est devenue disponible en GA le 22 octobre. Construite sur GPT-6 Luna, elle est conçue pour les petites décisions à réponses bornées. Dans son annonce officielle, OpenAI écrit que les applications et les agents prennent d'innombrables micro-décisions tout au long d'un workflow : étiqueter une entrée, choisir la route d'une requête, décider de l'action suivante — chacune triviale isolément, mais à l'échelle, la latence et les coûts s'accumulent.

L'API Decisions externalise ces jugements vers une voie rapide dédiée. Les développeurs définissent une question et ses réponses autorisées, puis transmettent du contexte texte, image ou JSON natif ; l'API renvoie l'un des trois types de réponse : predicate estime la probabilité qu'une condition soit vraie (0 à 1, par exemple si une photo produit montre un dommage visible) ; choice sélectionne l'une des options prédéfinies (par exemple continuer, réessayer ou demander une clarification), avec probabilités et confiance ; score note selon une échelle ordonnée et renvoie la moyenne pondérée par les probabilités des indices de niveau (par exemple la gravité d'un dommage). Le chiffre clé : jusqu'à 10x plus rapide que GPT-6 Luna via l'API Responses.

La GA ajoute pas mal de capacités par rapport à la bêta publique : intégration native de GPT-Live pour des décisions rapides pendant les sessions vocales en direct — un agent support décide s'il doit poser une question de suivi ou escalader, un avatar ajuste ses expressions aux paroles de l'utilisateur ; mise en cache des prompts pour le contexte réutilisé ; résidence d'inférence aux États-Unis et dans l'UE ; jusqu'à 400 questions par requête, soit le double d'avant ; capacité renforcée dans plusieurs régions d'Asie.

La tarification vise aussi les petites décisions à haute fréquence : 0,10 dollar par million de tokens d'entrée, 0,01 dollar par million de tokens d'entrée en cache, facturation à l'entrée uniquement sans frais sur les tokens de sortie, avec des options d'écriture en cache de 30 minutes et 12 heures. Les clients éligibles peuvent aussi utiliser Zero Data Retention.

Trois impacts directs

Une fois les agents en production, le goulot d'étranglement est rarement « l'étape la plus intelligente », mais les milliers de jugements intermédiaires. Jusqu'ici, les développeurs appelaient un grand modèle pour chaque petite décision, en subissant latence et facture, ou entraînaient leurs propres petits classifieurs en assumant la maintenance. L'API Decisions transforme le « jugement » en infrastructure : l'espace des réponses est verrouillé, le modèle n'a pas à formuler de langage — latence et coûts chutent naturellement.

L'impact direct sur les développeurs se joue à trois niveaux. D'abord, la logique existante de classification, routage et arbitrage des workflows de l'API Responses peut migrer vers la voie rapide moins chère. Ensuite, les scénarios vocaux temps réel sensibles à la latence (support, avatars) obtiennent pour la première fois une solution officielle « décider en parlant ». Enfin, la facturation à l'entrée rend le coût des appels haute fréquence prévisible — exactement l'incertitude que redoutent les équipes qui mettent les agents à l'échelle.

La limite mérite d'être notée : elle ne répond qu'aux questions bornées ; la génération ouverte et le raisonnement long passent toujours par les interfaces de modèle classiques. À utiliser comme l'arc réflexe de l'agent, pas comme son cerveau — c'est le bon usage.

Outils Recommandés

Plus