ToolNavs KI-Tools entdecken
Tool einreichen Anmelden
Zurück zu KI-Informationen
OpenAI Decisions API ist GA: kleine Entscheidungen 10x schneller, nur Input-Token werden abgerechnet

OpenAI Decisions API ist GA: kleine Entscheidungen 10x schneller, nur Input-Token werden abgerechnet

KI-Informationen • Admin • • 18 Aufrufe

Die Decisions API von OpenAI ist am 22. Oktober allgemein verfügbar (GA) geworden. Auf Basis von GPT-6 Luna ist sie für kleine Entscheidungen mit begrenztem Antwortraum ausgelegt. Laut offizieller Ankündigung treffen Anwendungen und Agenten im gesamten Workflow unzählige Mikroentscheidungen: Eingaben klassifizieren, Anfragen routen, den nächsten Schritt wählen — einzeln trivial, in der Summe aber treiben sie Latenz und Kosten hoch.

Die Decisions API lagert diese Urteile in eine eigene schnelle Spur aus. Entwickler definieren eine Frage und die zulässigen Antworten und übergeben Text-, Bild- oder nativen JSON-Kontext; die API liefert einen von drei Antworttypen: predicate schätzt die Wahrscheinlichkeit, dass eine Bedingung zutrifft (0 bis 1, z. B. ob ein Produktfoto sichtbare Schäden zeigt); choice wählt eine der vordefinierten Optionen (z. B. fortfahren, wiederholen oder Rückfrage), inklusive Wahrscheinlichkeiten und Konfidenz; score bewertet anhand einer geordneten Skala und gibt den wahrscheinlichkeitsgewichteten Mittelwert der Stufenindizes zurück (z. B. Schadensschwere). Die Kernzahl: bis zu 10x schneller als GPT-6 Luna über die Responses API.

Zum GA kommen gegenüber der öffentlichen Beta etliche Fähigkeiten hinzu: native GPT-Live-Integration für schnelle Entscheidungen in Live-Sprachsitzungen — ein Support-Agent entscheidet, ob er nachfragt oder eskaliert, ein Avatar passt seine Mimik an das Gesagte an; Prompt-Caching für wiederverwendeten Kontext; Inferenz-Residenz in den USA und der EU; bis zu 400 Fragen pro Anfrage, doppelt so viele wie zuvor; zusätzliche Kapazität in mehreren Regionen Asiens.

Auch die Preise zielen auf hochfrequente kleine Entscheidungen: 0,10 US-Dollar pro Million Input-Token, 0,01 US-Dollar pro Million gecachter Input-Token, Abrechnung nur für Input, keine Output-Token-Kosten, dazu 30-Minuten- und 12-Stunden-Cache-Schreiboptionen. Berechtigte Kunden können außerdem Zero Data Retention nutzen.

Drei direkte Auswirkungen

Wenn Agenten erst einmal laufen, liegt der Engpass selten beim „klügsten Schritt", sondern bei Tausenden Zwischenurteilen. Bisher riefen Entwickler entweder für jede kleine Entscheidung ein großes Modell auf und ertrugen Latenz und Rechnung, oder sie trainierten eigene kleine Klassifikatoren und trugen die Wartung. Die Decisions API macht „Urteilen" zur Infrastruktur: Der Antwortraum ist fixiert, das Modell muss keine Sprache formulieren — Latenz und Kosten sinken von selbst.

Die direkten Folgen für Entwickler haben drei Ebenen. Erstens lässt sich bestehende Klassifizierungs-, Routing- und Schiedslogik aus Responses-API-Workflows auf die günstigere schnelle Spur migrieren. Zweitens erhalten latenzkritische Echtzeit-Sprachszenarien (Support, Avatare) erstmals eine offizielle „entscheiden während gesprochen wird"-Lösung. Drittens macht die reine Input-Abrechnung die Kosten hochfrequenter Aufrufe planbar — genau die Unsicherheit, die Teams beim Skalieren von Agenten am meisten fürchten.

Die Grenze gilt es zu beachten: Sie beantwortet nur begrenzte Fragen; offene Generierung und langes Reasoning laufen weiter über die regulären Modellschnittstellen. Als Reflexbogen des Agenten, nicht als sein Gehirn — so wird sie richtig eingesetzt.

Empfohlene Tools

Mehr