OpenAI startet die Decisions-API in der öffent­li­chen Beta, Eingabe mit gpt-6-luna kostet 0,10 Dollar je Million Tokens

OpenAI hat eine eigene Schnittstelle für Entscheidungen in die öffentliche Beta geschickt, die Decisions-API. Sie wertet Text, Bilder oder beides aus und gibt eine typisierte Antwort zurück. Laut OpenAI geschieht das etwa zehnmal schneller als über die Responses API, die allgemeine Schnittstelle, über die ein Modell eine Antwort Wort für Wort erzeugt. Die allgemeine Verfügbarkeit soll in den kommenden Wochen folgen. Einziges Modell ist derzeit gpt-6-luna. Die Eingabe kostet 0,10 Dollar je Million Tokens, Ausgabe-Tokens berechnet OpenAI hier gar nicht.

Drei Fragetypen mit festem Antwortraum

Ein Ent­schei­dungs­mo­dell in diesem Sinn beantwortet eine vorher festgelegte Frage mit einem Wert aus einem festen Raum. Die Schnittstelle kennt drei Fragetypen. Der Typ predicate prüft eine Bedingung, etwa ob auf einem Foto ein Schaden zu sehen ist, und liefert eine Wahr­schein­lich­keit zwischen 0 und 1. Der Typ choice wählt einen Wert aus einer vorgegebenen Liste, etwa die zuständige Abteilung oder die Kategorie eines Inhalts. Der Typ score bewertet eine Eingabe gegen geordnete Stufen, etwa den Schweregrad eines Problems. Dabei bildet die Schnittstelle den mit Wahr­schein­lich­keiten gewichteten Mittelwert der Stufennummern, der Wert kann deshalb zwischen zwei Stufen liegen. Ob choice oder score passt, hängt allein an der Ordnung: Abteilungen haben keine Reihenfolge, Schweregrade schon.

Eine Anfrage an /v1/decisions

Genutzt wird die Schnittstelle über einen eigenen Endpunkt, POST /v1/decisions. Eine Anfrage hat drei Felder. Unter model steht das Modell, also gpt-6-luna. Unter input steht das gemeinsame Material für alle Fragen, ein Text oder Nutzernachrichten mit Text und Bildern. Unter questions stehen die Fragen, jede mit ihrem Typ, einer Anweisung und den erlaubten Werten oder Stufen. Jede Frage bekommt einen eindeutigen Namen, und die Antwort im Feld answers gibt diesen Namen zurück, damit die Anwendung jede Antwort ihrer Frage zuordnen kann. Das Beispiel in der Dokumentation schickt ein Produktfoto mit der Anweisung, nach einem Riss, einem Loch oder einer Delle zu suchen. Wer Fragen ausprobieren will, bevor er Code schreibt, kann das laut OpenAI im Playground tun.

Generieren, um ein einziges Wort auszuwerten

Wer bisher mit einem Sprachmodell Inhalte einstufen, Anfragen weiterleiten oder Arbeit priorisieren wollte, ließ das Modell eine Antwort generieren und bezahlte die Ausgabe. Verwertet wurde am Ende oft nur ein Etikett. Jetzt gibt es dafür eine eigene Schnittstelle, die direkt Wahr­schein­lich­keiten, Kategorien oder Skalenwerte liefert. Genau diese drei Einsatzfelder nennt OpenAI selbst: Inhalte klassifizieren, Anfragen weiterleiten, Arbeit nach Dringlichkeit ordnen. Eine Wahr­schein­lich­keit gibt der Anwendung außerdem eine Zahl in die Hand, an der sie eine eigene Schwelle festmachen kann, ab der sie handelt.

Die Grenze zieht OpenAI in der Dokumentation selbst. Wer ein Objekt nach einem eigenen JSON-Schema braucht, also ausgelesene Felder oder eine geschriebene Begründung, bleibt bei Structured Outputs, der Funktion der Responses API, die eine Antwort in ein vorgegebenes Schema zwingt. Wer ein Werkzeug aufrufen lassen will, nimmt Function Calling. Die Decisions-API ist für den Fall gebaut, dass die Antwort eine Wahr­schein­lich­keit, eine Wahl oder ein Skalenwert ist.

gpt-6-luna ohne Kennzahlen

Über das Modell selbst sagt die Dokumentation wenig. Sie nennt gpt-6-luna als einziges verfügbares Modell und gibt weder Größe noch Genauigkeit an. Ob die gelieferten Wahr­schein­lich­keiten zur tatsächlichen Trefferquote passen, ob also ein Wert nahe 1 in der Praxis fast immer stimmt, beschreibt sie ebenfalls nicht. Die Angabe zur Geschwindigkeit stammt von OpenAI und steht dort ohne Messbedingungen. Der beschriebene Stand gilt für die Beta, und welche Regionen die Schnittstelle erreicht, lässt die Dokumentation offen.