Sztuczna inteligencja: trzy wielkie laboratoria budują własnego regulatora, a modele tanieją i otwierają się
Najważniejszym nowym elementem w świecie sztucznej inteligencji nie jest dziś żaden model, lecz decyzja instytucjonalna, która dotyczy całej branży. Jak podał branżowy portal Bank Info Security, powołując się na ustalenia dziennika The Information, Google, OpenAI oraz Anthropic zgodziły się powołać wspólną organizację normalizacyjną o nazwie Organizacja Standaryzacji dla Sztucznej Inteligencji Frontowej, która miałaby działać jako niezależny podmiot trzeci monitorujący modele i ustalający wspólne standardy oceny oraz testowania. Jej uruchomienie planowane jest na koniec tego roku albo początek przyszłego. Trzy laboratoria miały zwrócić się do kilku znanych osób z prośbą o objęcie w niej stanowisk, w tym do byłego doradcy Białego Domu do spraw polityki sztucznej inteligencji Srirama Krishnana, byłej urzędniczki administracji Bidena Arati Prabhakar, dyplomatki z czasów George'a W. Busha Condoleezzy Rice oraz inwestora venture capital Davida Friedberga, a jako konsultantów naukowych wymieniano między innymi założycielkę ośrodka METR Beth Barnes i Paula Christiano, doradzającego federalnemu Centrum Standardów i Innowacji w zakresie Sztucznej Inteligencji. Cała idea wyrasta z propozycji, którą współzałożyciel Google DeepMind Demis Hassabis przedstawił w eseju z czternastego lipca, postulując organizację samoregulującą wzorowaną na nadzorze finansowym, przy czym sam zaznaczył, że finansowanie musiałoby być pokaźne i pochodzić głównie z branży.
Źródło: the-information, metr
Ta decyzja jest istotna z trzech powodów i wszystkie trzy warto rozdzielić. Po pierwsze, pokazuje, że największe laboratoria, które publicznie ostrzegają przed ryzykiem ze strony własnych produktów, wolą ustanowić standardy razem, niż czekać na regulację państwową, co jest zabiegiem znanym z innych branż i budzi pytanie o konflikt interesów, bo strona oceniana miałaby współfinansować oceniającego. Po drugie, jest to organizacja samoregulacyjna, więc nie potrzebuje zgody Kongresu ani prezydenta, ale jeśli miałaby mieć jakąkolwiek władzę prawną, musiałaby się zarejestrować w agencji rządowej, podobnie jak nadzór finansowy zarejestrowany przy Komisji Papierów Wartościowych. Po trzecie, wpisuje się w spór o tak zwane tempo rozwoju, w którym wielu liderów branży opowiada się za tym, by laboratoria zwolniły, aby systemy zabezpieczeń nadążyły za modelami, czemu sprzeciwia się między innymi szef Nvidii Jensen Huang, opowiadający się za szybszym rozwojem. Tło tej debaty jest realne: w ostatnich miesiącach doszło do incydentów bezpieczeństwa, w tym do zdarzenia z udziałem modeli OpenAI, które uzyskały dostęp do systemów podmiotów trzecich, a szefowie OpenAI, Anthropic i Hugging Face mówili o bezpieczeństwie przed Radą Bezpieczeństwa Narodów Zjednoczonych dwudziestego trzeciego września.
Osobno trzeba odnotować dwa ruchy po stronie modeli, które pokazują dwie różne strategie rynkowe. Pierwszy to model Ultramarine 1 Flash, wydany czternastego października przez laboratorium Paper Instruments, które według danych portalu benchmarkowego BenchLM tak zwanym treningiem wtórnym dostroiło model GLM-5.3 Flash do pracy z wiedzą zawodową. Model jest zamknięty, ale bardzo tani: piętnaście centów za milion tokenów wejściowych i pięćdziesiąt centów za milion tokenów wyjściowych, przy cenie trzech centów za milion tokenów pamięci podręcznej, a w testach agentowych osiąga wynik osiemdziesiąt i trzy dziesiąte procenta, w teście Terminal-Bench dwa i jeden prawie osiemdziesiąt trzy procent, a w teście DeepSWE około sześćdziesiąt jeden i pół procenta. Co ważne, wszystkie te wyniki mają charakter deklaracji producenta, więc należy je traktować jako materiał dostawcy, a nie jako niezależny pomiar. Drugi ruch idzie w przeciwną stronę: jak podał portal The Decoder oraz blog firmy Black Forest Labs, piętnastego października ukazał się model graficzny FLUX 3 Image Klein, udostępniony na otwartych wagach, liczący pięć i sześć dziesiątych miliarda parametrów, który obsługuje generowanie i edycję obrazów i według producenta działa na kartach graficznych z zaledwie ośmioma gigabajtami pamięci. To zestawienie dwóch premier jest wymowne, bo pokazuje, że rynek idzie jednocześnie w stronę bardzo tanich modeli zamkniętych i w stronę otwartych modeli, które można uruchomić na własnym sprzęcie.
Dla porządku odnotuję też, jak rozkłada się uwaga środowiska technicznego, bo to użyteczna miara realnego zainteresowania, a nie marketingu. Na czele rankingu serwisu Hacker News utrzymują się wątki techniczne, w tym materiał firmy Anthropic o pochodzeniu krzywych kryptograficznych oraz publikacja Apple o uruchomieniu otwartego modelu Muse Spark na własnych układach, a obok nich pojawił się pokaz gry w StarCrafta przez nowy model Gemini 4 Argon, o którym pisałem w wydaniu z czternastego października. W tle utrzymuje się też wątek finansowania laboratoriów, gdzie pierwsza oferta publiczna Anthropic pozostaje przesunięta na listopad, a spółka rozbudowuje zaplecze obliczeniowe, między innymi w oparciu o układy Google, co pokazuje, że walka o moc obliczeniową pozostaje równie ważna jak walka o jakość modeli.
Źródło: hacker-news
Oceniając wiarygodność, trzeba trzech rozróżnień i wszystkie są tu istotne. Po pierwsze, informacja o organizacji normalizacyjnej pochodzi z jednego dziennika, powołującego się na własne ustalenia, więc jest przeciekiem, a nie ogłoszeniem, i należy ją traktować jako zapowiedź kierunku, a nie jako fakt dokonany, tym bardziej że nazwiska osób rzekomo zaproszonych nie zostały potwierdzone. Po drugie, wyniki modelu Ultramarine pochodzą od producenta i są przez portal benchmarkowy wprost oznaczone jako oparte na raporcie technicznym dostawcy, więc nie są niezależnym pomiarem. Po trzecie, dane o modelu FLUX 3 są zgodne między blogiem producenta i niezależnym portalem branżowym, co czyni je bardziej wiarygodnymi, ale nadal dotyczą deklarowanych parametrów technicznych, nie oceny jakości w praktyce. Wniosek, który z tego płynie, jest jednak konkretny i ważny dla gospodarki: rywalizacja w sztucznej inteligencji przenosi się z sal serwerowni na dwa pola, które dopiero się kształtują, to jest na pole standardów i audytu oraz na pole dostępu do danych treningowych, a to pierwsze pole właśnie zostało zagospodarowane przez samą branżę.