Czym jest Decisions API od OpenAI, model, który nigdy nie napisze zdania?

Zamiast gadać, wybiera odpowiedź z listy, do dziesięciu razy szybciej i za dziesięć centów.

Większość tego, co firmy robią z AI, to nie rozmowa. To miliony drobnych decyzji. Czy ten mail to spam? Do którego zespołu trafi to zgłoszenie? Które z trzech narzędzi agent ma wywołać dalej? Do tego nie potrzeba eseju. Potrzeba odpowiedzi, szybkiej i taniej.

Na tym opiera się zakład OpenAI przy nowym Decisions API, zbudowanym na GPT-6 Luna. Zapowiedziano je na DevDay 29 września, a na początku października otwarto dla wszystkich deweloperów. Ogólna dostępność ma przyjść w ciągu kilku tygodni.

Co dostajesz w odpowiedzi

Podajesz dane wejściowe i pytanie z góry ustalonym zestawem możliwych odpowiedzi. Model niczego nie pisze. Zwraca jeden z trzech typowanych wyników: predykat (jak bardzo prawdopodobne, że zdanie jest prawdziwe), wybór (jedna opcja z twojej listy, z oceną pewności) albo ocenę (notę ważoną prawdopodobieństwem na uporządkowanej skali). Działa i z tekstem, i z obrazami.

  • Szybkość: do 10 razy szybciej niż to samo wywołanie przez zwykłe API, odpowiedź w około 150 milisekund.
  • Cena: 0,10 dolara za milion tokenów wejściowych, nic za tokeny wyjściowe i nic za odczyty oraz zapisy cache.
  • Do czego jest reklamowane: klasyfikacja treści, kierowanie zapytań i wybór kolejnego kroku przez agenta.
I tu coś wygląda dziwnie: po co OpenAI miałoby nie liczyć nic za wyjście i cache?

Po części dlatego, że wyjście jest z założenia malutkie, więc prawie nie ma za co fakturować. Jedna z możliwych interpretacji reszty: im prostszy rachunek, tym łatwiej przyciągnąć kogoś, kto liczy każdy grosz. To odczyt cennika, a nie coś, co firma powiedziała.

Czas premiery też jest wymowny. Pojawiło się kilka tygodni po tym, jak mały startup wypuścił model stworzony do dokładnie tej samej roboty.