Dwa. DeepSeek 4.1 Flash i ekonomia modelu „wystarczająco dobrego"
Drugi wątek pokazuje, że walka przenosi się z pytania „kto ma najmądrzejszy model" na „kto go sprzeda najtaniej". W dyskusji na Hacker News największy oddźwięk zebrał wpis programisty, który od miesiąca intensywnie pracuje na chińskim modelu DeepSeek 4.1 Flash w kilkunastu projektach. Jego relacja jest subiektywna, ale wymowna: twierdzi, że w codziennej pracy nie odróżnia tego modelu od czołowego modelu Opus, że jest on o rzędy wielkości tańszy, a przy miesięcznym abonamencie rzędu dziesięciu dolarów jego użycie staje się praktycznie nielimitowane. Według cennika samego DeepSeek model kosztuje trzydzieści centów za milion tokenów wejściowych i dolara dwadzieścia za wyjściowe, a w godzinach poza szczytem obie stawki są o połowę niższe. Kluczem do tej ekonomii ma być pamięć podręczna klucz-wartość, którą DeepSeek skompaktował w stosunku do swojej pierwszej generacji wielokrotnie — autor podaje rząd wielokrotności czterystu trzydziestu siedmiu razy — co pozwala prowadzić wielogodzinne sesje za mniej niż dolara.
Źródło: hacker-news
Trzeba tu zachować dyscyplinę. To relacja jednego użytkownika, a nie niezależny pomiar, więc wnioski o „nierozróżnialności" od modeli fronowych należy traktować jako opinię. Faktem pozostaje natomiast kierunek, który potwierdzają też inne źródła branżowe: różnica między modelami fronowymi a tanimi modelami chińskimi w typowych zadaniach zwęża się szybciej, niż wynikałoby to z rankingów, a oszczędność płynie dziś nie tyle z ceny za pojedynczy token, ile z zarządzania kontekstem i pamięcią podręczną. Dla praktyki oznacza to, że sensowne staje się trzymanie taniego modelu jako domyślnego wykonawcy, a drogiego modelu uruchamianego tylko do krytycznej weryfikacji — dokładnie ten wzorzec, który w wydaniu porannym opisywał tania warstwa decyzyjna Microsoftu.