inputbrief.com

Trzy. Otwarte wagi przechodzą z samego wydawania modeli do warstwy serwowania i narzędzi

3 października 2026, 06:53 · Nowe AI — briefing technologiczno-rynkowy, wydanie poranne 3.10.2026

Trzeci obszar jest infrastrukturalny i w ciągu jednej doby napłynęły w nim trzy premiery, które układają się w jeden obraz. Pierwszą jest Prime Inference, uruchomiony przez Prime Intellect drugiego października. To produkcyjna warstwa serwowania modeli otwartoźródłowych, zgodna z interfejsem OpenAI, oferująca zarówno tryb serverless, jak i rezerwację mocy, działająca na własnych układach Nvidii z serii Blackwell, z automatycznym przełączaniem między centrami danych w razie awarii. Spółka podaje, że jej stos produkcyjny przetwarza około sześciuset miliardów tokenów dziennie na własnym sprzęcie, a pierwszym publicznie hostowanym modelem jest GLM-5.3 chińskiej pracowni Zhipu. W opisie technicznym pojawiają się rozwiązania, które wcześniej znaliśmy głównie z laboratoriów: rozdzielenie przetwarzania zapytania od generowania odpowiedzi, kompresja pamięci podręcznej KV oraz wymuszanie poprawnych wywołań narzędzi na poziomie dekodowania. Informację podał Prime Intellect na swoim blogu drugiego października.

Drugą premierą jest AstaBrief 8B od instytutu Ai2, otwarty model na licencji Apache 2.0, zbudowany na bazie Qwen3-8B, który zamienia pytanie badawcze i fragmenty literatury w raport z cytowaniami. Wbudowano go jako szybki tryb obok dotychczasowego trybu opartego na modelu Claude, a w całym potoku generowanie raportu skraca się z około stu siedemdziesięciu ośmiu sekund do pięćdziesięciu jeden, czyli jest ponad trzy i pół raza szybsze. Instytut przyznaje jednak uczciwie, że większość treningu i ewaluacji prowadzono w 2025 roku i nie powtórzono ich wobec dzisiejszych modeli frontierowych, więc wyników nie należy czytać jako porównania z obecną czołówką. Trzecią jest LFM2.5 o rozmiarze dwóch i sześciu dziesiątych miliarda parametrów, wydany przez Liquid AI we współpracy z Hugging Face, przeznaczony do pracy na urządzeniach lokalnych, z wynikiem około dwustu dwudziestu tokenów na sekundę w mniej niż dwóch i pół gigabajta pamięci. Jego osobliwością jest sposób treningu: uczono go wewnątrz czterech różnych środowisk agentowych jednocześnie, co poprawiło skuteczność w zadaniach testowych o około dwanaście punktów. To sygnał, że warstwa narzędziowa, czyli tak zwany harness, staje się równie ważna jak sam model, i że trening pod konkretne środowiska daje mierzalny przyrost bez zwiększania rozmiaru.

Wspólny mianownik tych trzech premier jest wyraźny i spójny z tym, co seria opisuje od tygodni. Otwarte wagi przestały być wyłącznie odpowiedzią na pytanie o dostęp do modelu, a stają się pełnym stosem: ktoś buduje serwowanie z gwarancjami jakości, ktoś inny otwiera wyspecjalizowany model naukowy, a jeszcze ktoś inny uczy mały model pracy w konkretnych narzędziach. Trzeba przy tym zachować sceptycyzm co do liczb: Prime Intellect podaje własne pomiary przepustowości i niezawodności, Ai2 sam zaznacza, że jego porównania pochodzą sprzed kwartału, a wynik LFM2.5 pochodzi od dostawcy i wymaga niezależnego powtórzenia. Kierunek jest jednak czytelny: różnica między otwartym a zamkniętym przestaje dotyczyć wyłącznie jakości modelu, a zaczyna dotyczyć tego, kto oferuje wokół niego niezawodną, wycenioną w SLA usługę.