Modele decyzyjne wyrastają na osobny rynek w dwa tygodnie
Trzecia sprawa jest technologiczna i najbardziej zaskakująca: obok dużych modeli językowych, w ciągu zaledwie dwóch tygodni, uformował się osobny segment modeli decyzyjnych. Jego istota polega na tym, że zamiast generować tekst, taki model przyjmuje zbiór zdefiniowanych wcześniej odpowiedzi i zwraca dla każdej z nich prawdopodobieństwo — a więc decyzję w formie liczb, bez tekstu pośredniego i bez parsowania. Pierwszy był Jev od TypeSafe z 15 września, następnie OpenAI zapowiedziało Decisions API w ograniczonym podglądzie 29 września, a pierwszego października segment eksplodował trzema premierami naraz. Cloudflare wypuściło Clef i Clef-flash: dwa otwarte modele z licencją Apache 2.0, zbudowane na bazie Qwen o dwudziestu siedmiu i dziewięciu miliardach parametrów, z oknem kontekstu sześćdziesięciu pięciu tysięcy tokenów, z zachowanym enkoderem obrazu, wycenione na dwadzieścia cztery i dziewięć centów za milion tokenów wejściowych, które w testach producenta okazały się ponad dwukrotnie szybsze w medianie od Jev. Perplexity otworzyło Decisions API za cztery centy za milion tokenów przy deklarowanych osiemdziesięciu pięciu przecinek siedmiu dziesiątych procenta skuteczności. Fastino Labs pokazało natomiast GLiDE — pierwszy, jak twierdzi, „myślący” model decyzyjny, który w szybkiej ścieżce odpowiada od razu, a przy niskiej pewności dokłada rozumowanie; w swoim przebiegu oficjalnego indeksu osiągnął sześćdziesiąt cztery i osiemdziesiąt jeden setnych punktu wobec pięćdziesięciu siedmiu i dziewięćdziesięciu jeden setnych dla Jev.
Interpretacja tego ruchu jest spójna z tym, co seria opisuje od tygodni o koszcie zadania, i dodaje do tego nowy wymiar: decyzyjność staje się własną warstwą stosu, podobnie jak wcześniej wyszukiwanie wektorowe. Argument ekonomiczny jest mocny — skoro agent przy każdym kroku musi wybrać narzędzie albo zdecydować, czy poprosić człowieka o zgodę, to wołanie do tego celu pełnego modelu frontierowego jest marnotrawstwem. Zastrzeżenia też są konkretne. Wszystkie trzy premiery opierają się na benchmarkach dostawców, w tym na indeksie prowadzonym przez samego Cloudflare, a Fastino porównuje się z Jev na podstawie własnego przebiegu; jedynym niezależnym punktem odniesienia pozostaje publiczna tablica Decision Index, na której pozycje są wciąż świeże i rzadko weryfikowane zewnętrznie. Warto też odnotować sygnał z warstwy narzędziowej, który pokazuje, gdzie toczy się gra: otwartoźródłowy harness Pi w wersji 1.0, z licencją MIT, zdobył pierwszego października pierwszą pozycję na Hacker News z ponad dziewięciuset punktami, a jego twórcy wprost dodali obsługę modeli niejęzykowych w rodzaju Jev obok standardowych narzędzi agentowych. To potwierdza, że rynek zaczyna traktować model decyzyjny jako osobny, wymienny komponent, a nie funkcję wewnątrz modelu językowego.
Źródło: hacker-news