Jeden. Reflection wydaje Beam: amerykański model otwarty o 501 miliardach parametrów i cała ekonomia za nim
Najmocniejszym faktem nocy jest publiczne wejście firmy Reflection AI, założonej w 2024 roku przez byłych badaczy Google DeepMind, do gry o otwarte wagi. Ogłoszony 5 października Beam to model typu sparse mixture-of-experts o 501 miliardach parametrów całkowitych i 23 miliardach aktywowanych na token, przeznaczony do kodowania, rozumowania oraz zadań agentowych, o efektywnym kontekście miliona tokenów. Jak podało samo laboratorium, a za nim branżowe serwisy, między innymi Marktechpost i AlphaSignal, wagi mają trafić do sieci jeszcze w tym miesiącu na licencji Apache 2.0, wraz z raportem technicznym, kartą modelu i skwantyzowanymi wersjami FP8 oraz NVFP4. Do tego czasu model jest dostępny wyłącznie przez listę oczekujących na platformie Reflection, co jest faktem weryfikowalnym w samej zapowiedzi.
Źródło: alphasignal
Najciekawsza jest jednak nie liczba parametrów, lecz architektura i rachunek, który za nią stoi. Beam został wstępnie wytrenowany na 23,8 bilionach tokenów, przy czym firma deklaruje, że jej filtry odrzuciły około 95 procent surowego materiału z internetu, zachowując około 1,8 biliona wysokiej jakości tokenów, które typowe filtry by zgubiły. Pretrening zakończył się w mniej niż cztery tygodnie na 6144 układach Nvidia GB300 NVL72, przy tak zwanym goodput na poziomie 92,3 procent, czyli udziale czasu faktycznie przeznaczonego na użyteczne liczenie. Warstwa uczenia ze wzmocnieniem jest tu jednak osią, wokół której zbudowano cały model — Reflection utrzymuje, że jeden przebieg wygenerował ponad 100 milionów roloutów na 10,5 tysiąca układów GB300 w cztery tygodnie, z maksymalnym kontekstem 256 tysięcy tokenów i około 1,3 miliarda instancji piaskownic, a firma opisuje tę kampanię jako największą publicznie udokumentowaną operację RL dla modelu otwartego. Co więcej, laboratorium raportuje, że przy pełni asynchronicznych gradientów polityki system pozostawał stabilny, ucząc się z trajektorii starszych nawet o dobę i wygenerowanych przez polityki oddalone o 107 wersji wag od bieżącej, a wskaźniki na DeepSWE, Humanity's Last Exam i Terminal-Bench rosły wraz z liczbą roloutów, bez oznak plateau.
Trzeba tu jednak bardzo wyraźnie oddzielić dane producenta od niezależnej weryfikacji. Wszystkie wyniki, które firma podaje — 80,9 punktu na SWE-bench Verified, 80,1 na Terminal-Bench v2.1, 36,2 na Humanity's Last Exam bez narzędzi — pochodzą z jej własnego stołu pomiarowego, a porównania z konkurencją zostały zaczerpnięte z zewnętrznych źródeł,Artificial Analysis i DataCurve. Nie są to liczby zweryfikowane przez trzecią stronę, a sam model nie jest jeszcze do pobrania, więc mamy do czynienia z zapowiedzią, a nie z produktem. Co ważne, samo Reflection jest uczciwe co do luki: przyznaje, że na surowej zdolności model Kimi K3 pozostaje z przodu, a jego własny atut to wydajność wnioskowania, czyli zbliżony wynik przy trzech do czterech razy mniejszym nakładzie obliczeniowym. Ta deklaracja ma sens tylko wtedy, gdy weźmiemy pod uwagę koszt infrastruktury: model o 501 miliardach parametrów w wersji FP8 zajmuje około 501 gigabajtów, a w czterobitowej około 251 gigabajtów, jeszcze przed dodaniem bufora klucz-wartość i narzutu środowiska uruchomieniowego, co oznacza, że samodzielny hosting i tak wymaga wielu akceleratorów. Dla firm, które chcą trzymać model u siebie, w chmurze własnej lub w środowisku odizolowanym, licencja Apache 2.0 pozwala na modyfikację i komercyjną dystrybucję, czego nie daje model udostępniany wyłącznie przez API.
Źródło: artificial-analysis
Warto dodać warstwę finansową, bo ona tłumaczy skalę przedsięwzięcia. Reflection ma za sobą między innymi umowę na moc obliczeniową z SpaceX o wartości 6,3 miliarda dolarów, dającą dostęp do układów GB300 w centrum Colossus 2, oraz umowę z dostawcą chmury Nebius o wartości miliarda dolarów, a według AlphaSignal kolejny, większy następca Beam jest już w treningu. To pokazuje mechanizm, który wraca w tej serii od tygodni: przewaga w warstwie otwartej rodzi się nie z samej architektury, lecz z dostępu do bardzo dużej mocy obliczeniowej w warstwie RL, a amerykański gracz dopiero teraz zaczyna budować ten stos po stronie otwartych wag. Dla porządku odnotuję też, że chiński Tencent utrzymuje presję w tym samym segmencie — jego otwarty model Hy4 preview o 770 miliardach parametrów i 49 miliardach aktywnych jest dziś oceniany przez Vals AI jako czwarty najlepszy model otwarty, za DeepSeek V4.1 Flash, Kimi K3 i GLM 5.3, co pokazuje, że luka nie jest wcale zamknięta, a amerykańska odpowiedź wchodzi do gry, gdy chińska czołówka już jest dojrzała.
Źródło: alphasignal, vals-ai