Pięć. Otwarte wagi działają lokalnie: duży model na jednej konsumenckiej karcie
Piąty obszar dotyczy warstwy otwartej w jej najbardziej konkretnym wymiarze, czyli tego, co realnie da się uruchomić. Czwartego października na czele Hacker News znalazło się narzędzie o nazwie Strata, które pozwala uruchomić model Qwen3.8-Flash-Next o stu dwudziestu pięciu miliardach parametrów na pojedynczej konsumenckiej karcie RTX 4090 i osiągać w testach społeczności rzędu stu tokenów na sekundę, przy ponad sześciuset punktach i trzystu komentarzach dyskusji. Sam model wydała Alibaba pod koniec sierpnia; jest to multimodalna mieszanina ekspertów, która przy stu dwudziestu pięciu miliardach parametrów całkowitych aktywuje sześć miliardów na token, a trening ma kosztować około jednej dziewiątej tego, co poprzednik, co podano w oficjalnym wpisie zespołu Qwen. W tym samym nurcie pojawiły się dwie mniejsze, ale wymierne publikacje z 4 października: projekt ByteShape skwantyzował pokrewny model Qwen3.8-27B do rozmiarów od ośmiu i ośmiu dziesiątych do trzynastu gigabajtów, osiągając na RTX 5090 sto siedemdziesiąt sześć tokenów na sekundę, a zespół Mininglamp we współpracy z Chińską Akademią Nauk pokazał otwarty backbone wizyjny VisionHOPE z adaptacyjną pamięcią. Trzeba jednak zachować ostrożność: wyniki prędkości i benchmarków pochodzą z materiałów producentów i społeczności, nie zostały niezależnie powtórzone, a część wpisów jest za paywallem. Sens całego zestawu jest jednak spójny z tezą, którą seria stawia od tygodni: wartość w warstwie otwartej powstaje w momencie, gdy ktoś dostarczy działające wagi, policzalny kompromis i jasną licencję, a nie wtedy, gdy ktoś zapowiada parametry.
Źródło: hacker-news