OpenAIs Decisions API ist allgemein verfügbar
OpenAI kündigte am 22. Oktober die allgemeine Verfügbarkeit der Decisions API mit GPT-6 Luna an. Sie dient begrenzten Klassifikations- und Routingaufgaben mit Text, Bildern oder strukturierten Eingaben. Das Unternehmen behauptet bis zu zehnmal schnellere Antworten als Luna über die Responses API; Preise und Datenoptionen sind an Bedingungen geknüpft.
Ein Endpunkt für begrenzte Entscheidungen
OpenAI kündigte am 22. Oktober an, dass seine Decisions API mit GPT-6 Luna über einen speziellen Endpunkt allgemein verfügbar sei. Es ist für eine schmale Frage bestimmt, deren Antwort aus einem definierten Satz stammt: eine Eingabe zu klassifizieren, eine Anfrage zu verweisen oder in einem Workflow die nächste Aktion auszuwählen. Die API akzeptiert Text, Bilder und strukturierte Eingaben. Dies unterscheidet sich von der Anforderung, dass ein allgemeines Chat-Modell eine lange freie Antwort erzeugt; ein Anrufer muss die Kandidatenentscheidungen definieren und das zurückgegebene Ergebnis in seinem eigenen Geschäftskontext interpretieren.
Die Decisions API kann bei den beschriebenen begrenzten Aufgaben laut OpenAI bis zu zehnmal schneller antworten als GPT-6 Luna über die Responses API. Kundenbeispiele nennen andere Geschwindigkeitsverhältnisse und eine p95-Latenz unter 280 Millisekunden, jeweils für bestimmte Tests oder Einsätze. Das sind Angaben des Anbieters und seiner Kunden, kein für diesen Artikel durchgeführter unabhängiger Vergleich. Der Faktor zehn gilt nicht automatisch für jede Eingabelänge, Region, Cache-Konfiguration oder Auswahl an Entscheidungen.
Preise und Datenoptionen sind an Bedingungen gebunden
Der ursprüngliche Produktpost zitiert einen Basispreis von 0,10 USD pro Million Eingabe-Token und 0,01 USD pro Million Cache-Eingabe-Token, ohne Ausgabe-Token-Kosten für diesen Endpunkt. Es handelt sich hierbei um Preise am Tag der Ankündigung, nicht um ein dauerhaftes Angebot; die Teams müssen vor der Budgetierung den aktuellen Preisleitfaden überprüfen. Eine regionale Verarbeitung in den Vereinigten Staaten und der Europäischen Union ist aufgeführt, während für berechtigte Kunden Zero Data Retention (keine Speicherung von Kundendaten) verfügbar ist. Die Berechtigung ist eine Voraussetzung und gilt nicht automatisch für jedes Konto.
Eine begrenzte Entscheidung kann in einem häufig genutzten Verarbeitungsschritt nützlich sein, weil sich kleine Latenzunterschiede über Tausende von Workflow-Schritten summieren. Eine kostengünstige, schnelle Fehlklassifikation kann sich aber ebenso schnell verbreiten. Ein sinnvoller Vergleich nutzt gekennzeichnete Fälle aus der eigenen Anwendung und misst Genauigkeit und den Anteil der Fälle, in denen das Modell eine Entscheidung zurückhält oder an Menschen weiterleitet, sowie p50- und p95-Latenz. Auch Abruf-, Netzwerk- und Genehmigungszeit zählen. Ein Kundenbericht über gleiche Genauigkeit bei 30 Versicherungsfällen belegt keine allgemeine Genauigkeit in anderen Branchen.
Ein Modellergebnis ist keine Berechtigung
Denken Sie an einen Router, der eingehende Dokumente an Teams zugeordnet. Die Kandidatenetiketten, das Rückfallverhalten und die Vertrauensschwelle sind vor der Verwendung anzugeben. Eine sicherheitssensible Maßnahme sollte immer noch ausdrückliche Kontrollen anhand der geltenden Richtlinien und erforderlichenfalls eine menschliche Überprüfung durchlaufen. Ein Modellresultat ist ein Beweis für einen Entscheidungsprozess, nicht die Genehmigung, einen Shell-Befehl auszuführen oder ein Dokument offenzulegen. Diese Unterscheidung ist auch dann wichtig, wenn die API allgemein verfügbar ist.
Die Veröffentlichung macht begrenzte Modellentscheidungen zu einem erstklassigen API-Produkt. Es heißt nicht, daß alle Entscheidungsprobleme gelöst werden, daß jede Aufgabe Luna passt oder daß die angegebene Geschwindigkeit und der Preis über zukünftige Versionen hinweg konstant bleiben. Das ursprüngliche Bekanntmachungsdatum ist 22. Oktober; in diesem Artikel vom 26. Oktober werden die Ansprüche und ein Testplan für Leser aufgeführt, die die Adoption bewerten.
Sources
FAQ
Für welche Aufgaben ist die Decisions API gedacht?
Sie beantwortet Fragen mit vorgegebenen Optionen, etwa zur Klassifikation, Weiterleitung einer Anfrage oder Wahl des nächsten Arbeitsschritts. Laut OpenAI verarbeitet sie Text, Bilder und strukturierte Eingaben. Die Anwendung muss Optionen und den Umgang mit unsicheren oder falschen Antworten definieren.
Ist der behauptete zehnfache Geschwindigkeitsgewinn unabhängig gemessen?
Nein. Es ist OpenAIs Vergleich mit GPT-6 Luna über die Responses API für die beschriebenen begrenzten Aufgaben. Kundenbeispiele haben andere Bedingungen. Diese Veröffentlichung hat keinen Benchmark durchgeführt; jedes Team sollte Genauigkeit und hohe Latenzen mit eigenen Fällen messen.
Welche Preise und Datenbedingungen wurden angekündigt?
Der Beitrag vom 22. Oktober nennt 0,10 US-Dollar pro Million Eingabe-Token und 0,01 US-Dollar für zwischengespeicherte Eingaben; Ausgabe-Token würden nicht gesondert berechnet. Regionale Verarbeitung wird für USA und EU genannt. Keine Datenspeicherung gilt nur für berechtigte Kunden.