inputbrief.com

Nowe AI — briefing technologiczno-rynkowy, wydanie poranne 6.10.2026

6 października 2026, 06:48 · AI · wszystkie wydania

Wydanie poranne, dostarczone we wtorek szóstego października około godziny 06:45 czasu polskiego. Punktem odniesienia jest ostatnia analiza „Nowe AI", która realnie dotarła na wątek, czyli wydanie popołudniowe z 5.10, przekazane około godziny 16:08 czasu polskiego, a więc nowy materiał obejmuje okno od wczorajszego popołudnia do dzisiejszego poranka. Trzeba przy tym zaznaczyć, że poranne wydanie geopolityczne z 6.10, dostarczone około 06:35, odnotowało już dwie sprawy pokrewne dzisiejszemu frontowi — premierę otwartego modelu Beam oraz nowojorskie przesłuchanie laboratoriów — zatem tam, gdzie tamten briefing podał sam fakt, ja rozwijam go w warstwie technicznej i rynkowej, zamiast powtarzać. Nowojorskiego przesłuchania nie opisuję wcale, bo zostało już w pełni przedstawione. Dwie sprawy z ostatniej doby wyznaczają ton: po raz pierwszy od tygodni pojawia się realny, amerykański model otwarty o skali frontu, a po raz drugi widać twardy sygnał, że warstwa otwartego oprogramowania przechodzi kryzys wywołany przez samą generatywną sztuczną inteligencję.

Jeden. Reflection wydaje Beam: amerykański model otwarty o 501 miliardach parametrów i cała ekonomia za nim

Osobna strona tematu →

Najmocniejszym faktem nocy jest publiczne wejście firmy Reflection AI, założonej w 2024 roku przez byłych badaczy Google DeepMind, do gry o otwarte wagi. Ogłoszony 5 października Beam to model typu sparse mixture-of-experts o 501 miliardach parametrów całkowitych i 23 miliardach aktywowanych na token, przeznaczony do kodowania, rozumowania oraz zadań agentowych, o efektywnym kontekście miliona tokenów. Jak podało samo laboratorium, a za nim branżowe serwisy, między innymi Marktechpost i AlphaSignal, wagi mają trafić do sieci jeszcze w tym miesiącu na licencji Apache 2.0, wraz z raportem technicznym, kartą modelu i skwantyzowanymi wersjami FP8 oraz NVFP4. Do tego czasu model jest dostępny wyłącznie przez listę oczekujących na platformie Reflection, co jest faktem weryfikowalnym w samej zapowiedzi.

Źródło: alphasignal

Najciekawsza jest jednak nie liczba parametrów, lecz architektura i rachunek, który za nią stoi. Beam został wstępnie wytrenowany na 23,8 bilionach tokenów, przy czym firma deklaruje, że jej filtry odrzuciły około 95 procent surowego materiału z internetu, zachowując około 1,8 biliona wysokiej jakości tokenów, które typowe filtry by zgubiły. Pretrening zakończył się w mniej niż cztery tygodnie na 6144 układach Nvidia GB300 NVL72, przy tak zwanym goodput na poziomie 92,3 procent, czyli udziale czasu faktycznie przeznaczonego na użyteczne liczenie. Warstwa uczenia ze wzmocnieniem jest tu jednak osią, wokół której zbudowano cały model — Reflection utrzymuje, że jeden przebieg wygenerował ponad 100 milionów roloutów na 10,5 tysiąca układów GB300 w cztery tygodnie, z maksymalnym kontekstem 256 tysięcy tokenów i około 1,3 miliarda instancji piaskownic, a firma opisuje tę kampanię jako największą publicznie udokumentowaną operację RL dla modelu otwartego. Co więcej, laboratorium raportuje, że przy pełni asynchronicznych gradientów polityki system pozostawał stabilny, ucząc się z trajektorii starszych nawet o dobę i wygenerowanych przez polityki oddalone o 107 wersji wag od bieżącej, a wskaźniki na DeepSWE, Humanity's Last Exam i Terminal-Bench rosły wraz z liczbą roloutów, bez oznak plateau.

Trzeba tu jednak bardzo wyraźnie oddzielić dane producenta od niezależnej weryfikacji. Wszystkie wyniki, które firma podaje — 80,9 punktu na SWE-bench Verified, 80,1 na Terminal-Bench v2.1, 36,2 na Humanity's Last Exam bez narzędzi — pochodzą z jej własnego stołu pomiarowego, a porównania z konkurencją zostały zaczerpnięte z zewnętrznych źródeł,Artificial Analysis i DataCurve. Nie są to liczby zweryfikowane przez trzecią stronę, a sam model nie jest jeszcze do pobrania, więc mamy do czynienia z zapowiedzią, a nie z produktem. Co ważne, samo Reflection jest uczciwe co do luki: przyznaje, że na surowej zdolności model Kimi K3 pozostaje z przodu, a jego własny atut to wydajność wnioskowania, czyli zbliżony wynik przy trzech do czterech razy mniejszym nakładzie obliczeniowym. Ta deklaracja ma sens tylko wtedy, gdy weźmiemy pod uwagę koszt infrastruktury: model o 501 miliardach parametrów w wersji FP8 zajmuje około 501 gigabajtów, a w czterobitowej około 251 gigabajtów, jeszcze przed dodaniem bufora klucz-wartość i narzutu środowiska uruchomieniowego, co oznacza, że samodzielny hosting i tak wymaga wielu akceleratorów. Dla firm, które chcą trzymać model u siebie, w chmurze własnej lub w środowisku odizolowanym, licencja Apache 2.0 pozwala na modyfikację i komercyjną dystrybucję, czego nie daje model udostępniany wyłącznie przez API.

Źródło: artificial-analysis

Warto dodać warstwę finansową, bo ona tłumaczy skalę przedsięwzięcia. Reflection ma za sobą między innymi umowę na moc obliczeniową z SpaceX o wartości 6,3 miliarda dolarów, dającą dostęp do układów GB300 w centrum Colossus 2, oraz umowę z dostawcą chmury Nebius o wartości miliarda dolarów, a według AlphaSignal kolejny, większy następca Beam jest już w treningu. To pokazuje mechanizm, który wraca w tej serii od tygodni: przewaga w warstwie otwartej rodzi się nie z samej architektury, lecz z dostępu do bardzo dużej mocy obliczeniowej w warstwie RL, a amerykański gracz dopiero teraz zaczyna budować ten stos po stronie otwartych wag. Dla porządku odnotuję też, że chiński Tencent utrzymuje presję w tym samym segmencie — jego otwarty model Hy4 preview o 770 miliardach parametrów i 49 miliardach aktywnych jest dziś oceniany przez Vals AI jako czwarty najlepszy model otwarty, za DeepSeek V4.1 Flash, Kimi K3 i GLM 5.3, co pokazuje, że luka nie jest wcale zamknięta, a amerykańska odpowiedź wchodzi do gry, gdy chińska czołówka już jest dojrzała.

Źródło: alphasignal, vals-ai

Dwa. Dust: pierwsza metoda trenowania transformerów bez propagacji wstecznej, która dorównuje backpropowi

Osobna strona tematu →

Drugi fakt jest naukowy i dotyczy samego fundamentu uczenia maszynowego. Na Hacker News, gdzie trafił na pierwsze miejsce z ponad stupunktowym wynikiem i trzydziestoma komentarzami, a także w raporcie laboratorium qlabs.sh, pojawiła się praca opisująca metodę o nazwie Dust, która — jak twierdzą autorzy, Samip Dahal, Bishwas Mandal, Serdar Gülbahar i Akshay Vegesna — jako pierwsza metoda zerowego rzędu jest konkurencyjna z propagacją wsteczną przy wstępnym trenowaniu językowych modeli transformerowych. Istota polega na tym, że zamiast liczyć gradienty przez różniczkowanie, Dust zaburza aktywacje niezależnie na każdym tokenie, dzięki czemu każdy token staje się niejako osobnym osobnikiem populacji, a pojedyncze przejście w przód ocenia je wszystkie równolegle. To bardzo istotne rozróżnienie wobec wcześniejszych metod, bo dotychczasowe podejścia ewolucyjne działały w przestrzeni wag i były skrajnie kosztowne — Dust, jak twierdzą autorzy, jest od tysiąca do dziesięciu tysięcy razy wydajniejszy niż EGGROLL, jedna z najlepszych metod strategii ewolucyjnych w wersji dla transformerów.

Źródło: hacker-news

Warstwa krytycznej oceny jest tu konieczna, bo mamy do czynienia z raportem laboratorium, a nie z recenzowanym artykułem. Trzy rzeczy warto podkreślić. Po pierwsze, sami autorzy zaznaczają, że Dust zbliża się do backpropu „przy dużych populacjach", czyli przy istotnie większym nakładzie obliczeń — a w niektórych konfiguracjach nawet go przekracza, co jest sugestią, że w reżimie bogatym w compute można by przewyższyć backprop, ale nie jest to jeszcze dowód. Po drugie, wyniki dotyczą treningu do miliarda tokenów, a nie modeli klasy frontier, więc ekstrapolacja na skały przemysłowe pozostaje hipotezą. Po trzecie — i to jest najbardziej zaskakująca część — autorzy raportują, że większe modele są bardziej wydajne populacyjnie, nie mniej: model o 243 milionach parametrów bije przy większości rozmiarów populacji model sto dwadzieścia razy mniejszy, co odwraca powszechne przekonanie, że metody zerowego rzędu nie skalują się do dużych sieci. Sens praktyczny jest czytelny: jeśli to się potwierdzi, otwiera się droga do architektur, których nie da się trenować przez różniczkowanie, a to jest jedna z realnych barier, które dziś ograniczają projektowanie modeli. Trzeba to jednak traktować jako bardzo obiecującą przesłankę, a nie jako fakt ustalony.

Trzy. Agenci Claude Opus 5.5 znajdują dwa kandydatury na materiały do pamięci przyszłości

Osobna strona tematu →

Trzeci obszar pokazuje, co dzieje się, gdy agentowe modele zostaną skierowane na realny problem naukowy. Firma Vals AI, znana głównie z niezależnych benchmarków, opublikowała czwartego października raport, w którym zespół badacza Geby'ego Jaffa i ponad dziewięćdziesięciu agentów opartych na Claude Opus 5.5 w ciągu trzech dni wskazał dwóch kandydatów na tak zwane magnesy kompensowane Luttingera, czyli materiały, które mają jednocześnie zerowy wypadkowy moment magnetyczny i zdolność sortowania elektronów według spinu. To połączenie jest od dziesięcioleci celem badań nad pamięciami nowej generacji, bo pozwoliłoby łączyć gęstość antyferromagnetyków z czytelnym sygnałem elektrycznym, którego antyferromagnetyki zwykle nie dają. Jednym z kandydatów jest nowo zaprojektowany związek YBaMnFeO5, dla którego obliczenia przewidują przerwę energetyczną 2,35 elektronowolta i okna spinowe rzędu jednego elektronowolta, czyli wielokrotnie powyżej około 26 milielektronowoltów drgań termicznych w temperaturze pokojowej. Drugim jest KV[Cr(CN)6], związek zsyntetyzowany już w 1999 roku, którego właściwości magnetyczne utrzymywały się do 376 kelwinów, czyli 103 stopni Celsjusza.

Źródło: vals-ai

Uczciwa ocena wymaga tu wyraźnego oddzielenia tego, co policzone, od tego, co zrobione w laboratorium. Oba wyniki są hipotezami obliczeniowymi opartymi na teorii funkcjonału gęstości, przeprowadzonymi w około 750 zadaniach na procesorach w chmurze Modal z użyciem pakietu Quantum ESPRESSO, i żaden nie został potwierdzony eksperymentalnie. Co więcej, agenci sami zakwalifikowali pierwszy z materiałów jako studium projektowe, a nie realne odkrycie, bo uporządkowanie atomów manganu i żelaza w szachownicę prawdopodobnie rozpada się w temperaturach 950 kelwinów, podczas gdy typowa synteza takich tlenków prowadzi się między 900 a 1300 stopni Celsjusza, więc zwykła metoda produkcyjna zniszczyłaby porządek odpowiedzialny za efekt. Wartością tego raportu jest więc nie samo odkrycie, lecz metoda: agenci podzielili projekt na równoległe tory poszukiwań, symulacji i recenzji adwersarskiej, z góry ustalili kryteria zaliczenia przed wykonaniem rozstrzygających obliczeń, a cały łańcuch dowodowy — dane wejściowe, surowe wyniki, skrypty i pięć korekt — opublikowali w publicznym repozytorium na GitHubie. To jest ten sam wzorzec, który seria opisuje od tygodni w warstwie automatyzacji badań: wartość nie polega na tym, że model zastępuje naukowca, lecz na tym, że potrafi w trzy dni przeszukać przestrzeń, którą człowiek przeszukiwałby miesiącami, i pozostawić po sobie audytowalny ślad. Twardy pozostaje fakt opublikowania raportu i to, że agenci wykonali realną pracę obliczeniową; interpretacją jest to, czy któryś z tych materiałów trafi kiedykolwiek do produkcji.

Cztery. OpenAI wdraża textGrain: niewidzialny znak wodny w tekście, wymuszony unijnym prawem

Osobna strona tematu →

Czwarty fakt jest regulacyjny i dotyczy samej natury tekstu generowanego przez modele. Piątego października OpenAI opublikowało dokument opisujący, jak zamierza spełnić unijne wymogi przejrzystości, i ogłosiło technologię o nazwie textGrain, która dodaje do wyborów słownych modelu niewidzialny sygnał statystyczny. Mechanizm jest analogiczny do tak zwanych znaków wodnych z listy zielonej: klucz w połączeniu z poprzedzającymi słowami rozstrzyga, która z równie dobrych opcji zostanie wybrana częściej, pojedyncze słowo nie wygląda dziwnie, ale w długim tekście wzorzec staje się mierzalny. Zgodnie z komunikatem spółki od 5 października klienci API na całym świecie mogą dobrowolnie włączyć znakowanie dla wybranych modeli, przy czym domyślnie pozostaje ono wyłączone, a w nadchodzących tygodniach niewidzialny znak wodny pojawi się w kwalifikowanym tekście ChatGPT i Codex generowanym na terenie Unii Europejskiej. Dostęp do detektora ma być początkowo ograniczony do zatwierdzonych badaczy i organizacji eksperckich.

Najważniejsza jest tu jednak nie sama technologia, lecz ujawnione ograniczenia, które OpenAI podaje wprost. Przy docelowym wskaźniku fałszywych trafień na poziomie jednego procenta detektor rozpoznaje znak w około 80 procentach fragmentów o długości 200 tokenów i w około 95 procentach fragmentów o długości 400 tokenów, ale rozpoznawalność spada dla treści o małej swobodzie wyboru słów, na przykład dla matematyki, a także dla krótkich odpowiedzi. Podmiana dziesięciu procent słów na synonimy obniża wykrywalność z około 92 do 66 procent, a podmiana dwudziestu pięciu procent — do siedemnastu procent. Sama spółka zastrzega, że znak nie mierzy wkładu człowieka, nie ustala własności ani odpowiedzialności, nie identyfikuje użytkownika i nie potwierdza prawdziwości tekstu, a jego brak nie dowodzi autorstwa człowieka. Kontekst prawny jest jasny i podany za analizami Cloud Security Alliance oraz portalu Lucairn: artykuł 50 unijnego aktu o sztucznej inteligencji nakłada obowiązki przejrzystości od 2 sierpnia 2026 roku, a tak zwane okno przejściowe dla systemów wprowadzonych na rynek wcześniej wygasa 2 grudnia 2026 roku. To wyjaśnia, dlaczego wdrożenie jest regionalne i dlaczego amerykańska spółka wprowadza je najpierw tam, gdzie prawo tego wymaga. Odczyt rynkowy jest dwojaki: z jednej strony każdy, kto zakładał, że tekst generowany przez model pozostanie nieoznaczony, musi zweryfikować to założenie, z drugiej strony znak wodny w tej postaci jest narzędziem zgodności i uczciwej współpracy, a nie wykrywaczem kłamstw, bo każdy, kto świadomie sparafrazuje tekst, pozbędzie się sygnału.

Pięć. Giełda mocy obliczeniowej nie wystartowała: CFTC wstrzymuje kontrakty na wynajem układów Nvidii

Osobna strona tematu →

Piąty obszar jest rynkowy i dotyczy próby zamiany mocy obliczeniowej w klasę aktywów. Jeszcze w sierpniu CME Group i firma Silicon Data ogłosiły, że piątego października na NYMEX ruszą pierwsze na dużej giełdzie kontrakty terminowe na wynajem układów Nvidia — osobno dla H100 i B200 — rozliczane gotówkowo przeciw indeksowi cen wynajmu GPU. Każdy kontrakt miał odpowiadać jednemu miesiącowi wynajmu, a więc około 730 godzinom pracy układu, i miał dać firmom możliwość zabezpieczenia rosnących kosztów infrastruktury. Fakty są jednak takie, że kontrakty nie wystartowały. Jak wynika z komunikatu CME Globex z 28 września oraz z ustaleń, które podało „The Information", a za nim serwisy branżowe, Komisja Handlu Terminowego CFTC wydłużyła przegląd regulacyjny o czterdzieści pięć dni, co przesuwa start na 9 listopada lub później. Powodem są obawy o manipulację na rozdrobnionym i nieprzejrzystym rynku wynajmu układów, co jest zastrzeżeniem całkowicie zrozumiałym, bo indeks bazuje na cenach transakcyjnych i ofertowych zbieranych od hyperskalerów i mniejszych dostawców chmury, a nie na cenie giełdowej.

Źródło: the-information

Znaczenie tego opóźnienia wykracza poza samą datę. Pierwsza próba nadania mocy obliczeniowej ceny publicznej, handlowej i możliwej do zabezpieczenia pokazuje, jak bardzo ta kategoria stała się dojrzała finansowo, ale też jak trudno jest uregulować aktywo, którego rynek jest wciąż bilateralny i słabo obserwowalny. Dla firm planujących zakupy infrastruktury to sygnał, że narzędzie do zabezpieczania kosztów nie będzie dostępne tak szybko, jak zapowiadano, i że przez co najmniej kilka tygodni ceny wynajmu pozostaną ustalane w negocjacjach, a nie na giełdzie. Równolegle warto odnotować tło rynkowe, bo dopełnia obraz: w poniedziałek piątego października Nasdaq zamknął się na rekordzie, akcje Nvidii ustanowiły nowy szczyt drugą sesję z rzędu, a rentowność dziesięcioletnich obligacji amerykańskich dotknęła 5,35 procent, najwyższego poziomu od dwudziestu czterech lat, co jak podał Investopedia jest napięciem, które może ograniczać apetyt na ryzyko w kolejnych tygodniach.

Sześć. Otwarte oprogramowanie w kryzysie: AI zalewa projekty, a opiekunowie zamykają drzwi

Osobna strona tematu →

Szósty fakt jest kulturowy, ale ma bezpośrednie przełożenie na infrastrukturę, na której stoi cały ten przemysł. Na czele Hacker News znalazł się esej „Open Source as We Know It Is Dead", w którym autor opisuje, jak generatywna sztuczna inteligencja zmienia samą naturę wkładu do otwartego oprogramowania. Rzecz nie polega na samym kodzie, lecz na tym, że zgłaszanie poprawek stało się niemal darmowe, podczas gdy ich rzetelne przejrzenie pozostało kosztowne, i że ciężar przesunął się z osoby, która czegoś chce, na wolontariusza, który musi odmówić. Autor przywołuje konkretne decyzje z ostatnich tygodni: Sindre Sorhus pierwszego października wyłączył zewnętrzne prośby o scalenie we wszystkich swoich repozytoriach, pisząc wprost, że robi to z powodu AI, a wcześniej podobne kroki podjęły między innymi tldraw i Ladybird, które przestały przyjmować publiczne poprawki, projekt Godot zaczął wymagać, by kod był autorstwa człowieka i zablokował autonomicznych agentów, COSMIC wymaga od współtwórców potwierdzenia, że zgłoszenie nie zawiera kodu ani opisów wygenerowanych przez model, a społeczność Codeberg przegłosowała zakaz projektów w większości tworzonych przez AI. Curl zakończył program nagród za wykrywanie błędów, gdy jego autor Daniel Stenberg podał, że udział prawdziwych zgłoszeń spadł poniżej pięciu procent.

Źródło: hacker-news

To musi być czytane razem z danymi samego GitHuba, które przywołuje serwis Cryptobriefing: miesięczny wolumen scalanych prośb wzrósł z około dwudziestu pięciu milionów na początku 2023 roku do dziewięćdziesięciu milionów w marcu 2026 roku, a platforma w odpowiedzi wprowadziła 27 sierpnia mechanizmy pozwalające opiekunom całkowicie wyłączyć prośby o scalenie lub ograniczyć je do współpracowników. Trzeba tu zachować ostrożność w ocenie skali, bo część opisanych przypadków opiera się na relacjach samych opiekunów i pojedynczych wpisach w mediach społecznościowych, ale sam kierunek jest zgodny z decyzjami instytucjonalnymi. Znaczenie dla rynku jest dwojakie. Z jednej strony pokazuje koszt, którego nikt nie wpisał do rachunku za sztuczną inteligencję, czyli przeniesienie pracy weryfikacyjnej na najbardziej przeciążonych ludzi w ekosystemie. Z drugiej strony uderza w sam fundament modeli otwartych: jeśli najbardziej wartościowe repozytoria zamykają się na zewnętrzny wkład, to tempo, w jakim otwarte wagi korzystają z dorobku wspólnoty, może wyhamować.

Siedem. Granica prywatności: Anthropic zgłasza wpis dziennika użytkowniczki na policję

Osobna strona tematu →

Ostatni fakt dotyczy tego, gdzie kończy się prywatność, gdy rozmowa z modelem staje się wyznaniem. Jak podały TechSpot, Cybernews i lokalne media na Florydzie, trzydziestoletnia Carli Michelle Heller z Bonita Springs używała Claude'a jako dziennika i napisała w nim, że planuje atak na biuro szeryfa hrabstwa Lee. Systemy bezpieczeństwa Anthropica oznaczyły wpis, sprawa trafiła do ludzkiego recenzenta, ten uznał groźbę za wiarygodną i zgłosił ją organom ścigania. Kobieta została zatrzymana bez incydentów i usłyszała zarzut kierowania pisemnej groźby przemocy, co na Florydzie jest przestępstwem drugiego stopnia. Firma utrzymuje, że może udostępniać informacje o użytkowniku w ograniczonym zakresie sytuacji nagłych, gdy uzna to za konieczne dla zapobieżenia śmierci lub poważnemu uszczerbkowi na zdrowiu, i ten przypadek wpisuje się w tak zdefiniowaną politykę.

Sprawa jest o tyle istotna dla warstwy regulacyjnej i zaufania, że pokazuje realne napięcie, którego żaden znak wodny ani raport o bezpieczeństwie nie rozstrzyga: model, do którego użytkownik zwraca się jak do prywatnego dziennika, jest jednocześnie systemem monitorowanym przez człowieka i podłączonym do organów ścigania. Twarde jest to, że doszło do oznaczenia treści, ludzkiej weryfikacji i zgłoszenia oraz że postawiono zarzut. Interpretacją pozostaje ocena proporcjonalności tego mechanizmu, zwłaszcza że w tle toczy się równoległy spór o to, gdzie przebiega granica między zapobieganiem realnej krzywdzie a inwigilacją intymnych zwierzeń. Warto dodać, że to nie jest przypadek odosobniony w amerykańskiej debacie: w tym samym okresie toczyły się sprawy przeciw OpenAI o zdarzenia, których sądy i prokuratorzy twierdzą, że można było uniknąć, co pokazuje, że laboratoria są dziś pod presją zarówno wtedy, gdy zgłaszają, jak i wtedy, gdy nie zgłaszają.

NAJWAŻNIEJSZE

Osobna strona tematu →

Po pierwsze, Ameryka wchodzi do wyścigu otwartych wag na poważnie. Reflection ogłosiło Beam, model o 501 miliardach parametrów z 23 miliardami aktywnych i licencją Apache 2.0, wytrenowany w warstwie uczenia ze wzmocnieniem w ponad stu milionach roloutów na 10,5 tysiąca układów Nvidia GB300, a jego wagi mają trafić do sieci jeszcze w tym miesiącu. To pierwsza realna amerykańska alternatywa dla chińskiej czołówki w warstwie, w której dotąd dominowały DeepSeek, Kimi i GLM, choć — co trzeba podkreślić — na razie bez niezależnych benchmarków i bez wydanych wag (dane Reflection, 5.10).

Po drugie, pojawia się metoda, która może podważyć monopol backpropu. Praca o nazwie Dust z laboratorium qlabs.sh opisuje pierwsze podejście zerowego rzędu, które dorównuje propagacji wstecznej przy wstępnym trenowaniu transformerów, jest od tysiąca do dziesięciu tysięcy razy wydajniejsze od metod ewolucyjnych w przestrzeni wag i — wbrew dotychczasowym przekonaniom — skaluje się lepiej na większych modelach. To na razie wynik do miliarda tokenów i raport laboratorium, ale jeśli się potwierdzi, otwiera drogę do architektur, których nie da się trenować klasycznie (qlabs.sh i Hacker News, 5.10).

Źródło: hacker-news

Po trzecie, próba uregulowania rynku mocy obliczeniowej jako klasy aktywów właśnie się potknęła. Kontrakty terminowe CME na wynajem układów Nvidia miały wystartować piątego października, ale Komisja Handlu Terminowego wydłużyła przegląd o czterdzieści pięć dni i przesunęła start na 9 listopada, wskazując na ryzyko manipulacji na nieprzejrzystym rynku wynajmu. To pokazuje, że o ile popyt na moc obliczeniową jest już przedmiotem obrotu finansowego, o tyle infrastruktura rynkowa i nadzór nie nadążają za tą kategorią („The Information", CME i CFTC, 28.09–5.10).

Źródło: the-information

Rekomendowana interpretacja biznesowo-inwestycyjna

Osobna strona tematu →

W horyzoncie od trzydziestu do dziewięćdziesięciu dni decyzję najbardziej zmienia zbieżność trzech warstw, które zwykle analizuje się osobno. Pierwsza dotyczy źródła modelu i kosztu jego utrzymania. Skoro do gry wchodzi amerykański dostawca otwartych wag z licencją Apache 2.0, a jego przewaga ma polegać na wydajności wnioskowania, czyli na koszcie przypadającym na token przy zbliżonym wyniku, to realna różnica między ofertami przestaje być różnicą możliwości, a staje się różnicą ceny i pochodzenia. Dla podmiotu, który buduje własne rozwiązanie, opłaca się projektować architekturę tak, by dała się przenieść między dostawcami, zamiast wiązać się z jednym modelem na stałe, a punktem weryfikacji pozostaje to, czy Beam faktycznie wyda wagi w tym miesiącu i w jakiej formie kwantyzacji.

Druga warstwa jest strukturalna i dotyczy samego sposobu trenowania modeli. Jeśli metoda taka jak Dust potwierdzi się w większej skali, to wartość przesuwa się z posiadania różniczkowalnej architektury na posiadanie dostępu do ogromnej mocy obliczeniowej oraz zdolności prowadzenia bardzo dużych populacji treningowych. To wzmacnia tezę, że compute pozostaje najtrwalszą przewagą, ale też osłabia argument, że tylko największe laboratoria mogą trenować modele frontier, bo otwierają się ścieżki, które nie wymagają klasycznego backpropu.

Trzecia warstwa jest regulacyjna i dotyczy zgodności. Unijne obowiązki przejrzystości tekstu weszły w życie 2 sierpnia, a okno przejściowe wygasa 2 grudnia, dlatego każdy, kto wprowadza na rynek europejski system generujący tekst, powinien założyć, że znakowanie treści stanie się standardem, a nie wyjątkiem, i przygotować własną dokumentację oraz mechanizmy kontroli, zanim stanie się to przymusem. Najbliższymi punktami weryfikacji są: to, czy Reflection wyda wagi Beam zgodnie z zapowiedzią, to, czy Dust doczeka się niezależnej reprodukcji poza laboratorium, które go opisało, oraz to, czy CFTC dopuści kontrakty na moc obliczeniową 9 listopada, bo od tego zależy, czy koszt infrastruktury da się wreszcie zabezpieczyć na giełdzie.