NAJWAŻNIEJSZE
Po pierwsze, Ameryka wchodzi do wyścigu otwartych wag na poważnie. Reflection ogłosiło Beam, model o 501 miliardach parametrów z 23 miliardami aktywnych i licencją Apache 2.0, wytrenowany w warstwie uczenia ze wzmocnieniem w ponad stu milionach roloutów na 10,5 tysiąca układów Nvidia GB300, a jego wagi mają trafić do sieci jeszcze w tym miesiącu. To pierwsza realna amerykańska alternatywa dla chińskiej czołówki w warstwie, w której dotąd dominowały DeepSeek, Kimi i GLM, choć — co trzeba podkreślić — na razie bez niezależnych benchmarków i bez wydanych wag (dane Reflection, 5.10).
Po drugie, pojawia się metoda, która może podważyć monopol backpropu. Praca o nazwie Dust z laboratorium qlabs.sh opisuje pierwsze podejście zerowego rzędu, które dorównuje propagacji wstecznej przy wstępnym trenowaniu transformerów, jest od tysiąca do dziesięciu tysięcy razy wydajniejsze od metod ewolucyjnych w przestrzeni wag i — wbrew dotychczasowym przekonaniom — skaluje się lepiej na większych modelach. To na razie wynik do miliarda tokenów i raport laboratorium, ale jeśli się potwierdzi, otwiera drogę do architektur, których nie da się trenować klasycznie (qlabs.sh i Hacker News, 5.10).
Źródło: hacker-news
Po trzecie, próba uregulowania rynku mocy obliczeniowej jako klasy aktywów właśnie się potknęła. Kontrakty terminowe CME na wynajem układów Nvidia miały wystartować piątego października, ale Komisja Handlu Terminowego wydłużyła przegląd o czterdzieści pięć dni i przesunęła start na 9 listopada, wskazując na ryzyko manipulacji na nieprzejrzystym rynku wynajmu. To pokazuje, że o ile popyt na moc obliczeniową jest już przedmiotem obrotu finansowego, o tyle infrastruktura rynkowa i nadzór nie nadążają za tą kategorią („The Information", CME i CFTC, 28.09–5.10).
Źródło: the-information