L'API Decisions d'OpenAI devient généralement disponible
OpenAI a annoncé le 22 octobre la disponibilité générale de l'API Decisions avec GPT-6 Luna, pour des classifications et des choix bornés à partir de texte, d'images ou de données structurées. L'entreprise revendique jusqu'à dix fois moins de temps que Luna via l'API Responses; prix et contrôles des données restent conditionnels.
Un point d'accès pour les décisions bornées
OpenAI a annoncé le 22 octobre la disponibilité générale de sa Decisions API avec GPT-6 Luna via un point de terminaison dédié. Elle sert à des tâches dont les réponses possibles sont définies à l'avance : classer une entrée, acheminer une requête ou choisir l'action suivante d'un flux de travail. L'API accepte le texte, les images et les entrées structurées. Contrairement à une demande de longue réponse libre adressée à un modèle de chat général, l'appelant doit définir les décisions possibles et interpréter le résultat dans son propre contexte métier.
Selon OpenAI, la Decisions API peut répondre jusqu'à dix fois plus vite que GPT-6 Luna appelé via la Responses API pour les tâches limitées décrites. Les exemples de clients rapportent d'autres ratios et une latence p95 inférieure à 280 millisecondes, chacun dans un test ou un déploiement particulier. Ce sont des chiffres avancés par le fournisseur et ses clients, pas un banc d'essai indépendant réalisé pour cet article. Le facteur dix ne vaut pas nécessairement pour chaque longueur d'entrée, région, état du cache ou ensemble de décisions.
Les prix et les données ont des conditions
L'article de produit original cite un prix de base de 0,10 $ par million de jetons d'entrée et de 0,01 $ par million de jetons d'entrée mis en cache, sans frais de jeton de sortie pour ce point d'accès. Il s'agit de tarifs du jour de l'annonce et non d'un devis durable; les équipes doivent vérifier le guide actuel des prix avant de budgétiser. Le traitement régional aux États-Unis et dans l'Union européenne est répertorié, tandis que l’option de conservation nulle des données est disponible pour les clients éligibles. L'éligibilité est une condition, pas une garantie de défaut pour chaque compte.
Une décision limitée peut être utile dans un chemin critique parce qu'une petite différence de latence se répète sur des milliers d'étapes de flux de travail. Mais une classification rapide et peu coûteuse peut aussi propager rapidement une erreur. La comparaison appropriée utilise un ensemble étiqueté à partir de l'application réelle, mesure la précision et l'abstention aux côtés de la latence p50 et p95, et comprend le temps de récupération, le temps de réseau et l'approbation. Un témoignage des clients indiquant la même précision dans 30 cas d'assurance n'établit pas une précision générale dans tous les secteurs.
Un résultat de modèle n'est pas une autorisation
Considérez un routeur qui attribue des documents entrants aux équipes. Ses étiquettes candidates, son comportement de retrait et son seuil de confiance doivent être précisés avant utilisation. Une action sensible à la sécurité devrait toujours faire l'objet de contrôles explicites des politiques et, le cas échéant, d'un examen humain. Un résultat de modèle est un élément d’un processus de décision, pas l'autorisation d'exécuter une commande shell ou de divulguer un document. Cette distinction est importante même lorsque l'API est généralement disponible.
La sortie rend les décisions de modèle limité un produit API de première classe. Il ne dit pas que tous les problèmes de décision sont résolus, que chaque tâche convient à Luna, ou que la vitesse et le prix cités restent constants dans les versions futures. La date d'annonce initiale est le 22 octobre; cet article du 26 octobre enregistre les revendications et un plan d'essai pour les lecteurs évaluant l'adoption.
Sources
FAQ
À quelles tâches l'API Decisions est-elle destinée ?
Elle vise des réponses parmi des choix définis, comme classer une entrée, router une demande ou choisir l'étape suivante. OpenAI indique qu'elle accepte du texte, des images et des données structurées. L'application doit toujours définir les choix et la conduite à tenir en cas d'erreur.
Le gain annoncé de dix fois est-il un test indépendant ?
Non. Il s'agit de la comparaison annoncée par OpenAI avec GPT-6 Luna utilisé via l'API Responses, pour les tâches bornées décrites. Les exemples clients ont leurs propres conditions. Cette publication n'a pas mené d'essai; chaque équipe doit mesurer précision et latence sur ses cas.
Quels étaient les prix et conditions de données annoncés ?
Le billet du 22 octobre indique 0,10 dollar par million de jetons en entrée et 0,01 dollar pour l'entrée mise en cache, sans frais de jetons en sortie. Le traitement régional couvre les États-Unis et l'UE; l'absence de conservation des données ne concerne que les clients éligibles.