Bezpieczeństwo otwartych wag: ablacja, obejścia i klauzula w licencji
Drugi wątek jest bezpośrednim następstwem pierwszego. Anthropic opublikował pod koniec września analizę zdolności cybernetycznych GLM-5.3, w której stwierdza, że model ten potrafi autonomicznie budować działające exploity od początku do końca, a jednocześnie został wydany bez skutecznych zabezpieczeń. W izolowanym środowisku rozwinął pełne przejęcie przepływu sterowania w czterech procentach prób na wewnętrznym benchmarku eksploatacji binarnych, podczas gdy wcześniejsze modele, jak Claude Opus 4.6 czy sam GLM-5.2, nie odniosły tam żadnego sukcesu. Najbardziej niepokojąca jest nie sama zdolność, lecz łatwość jej odblokowania. Standardowa technika redukcji odmów, zwana ablacją, obniżyła wskaźnik odmów z ponad dziewięćdziesięciu procent do około trzech, przy zachowaniu zdolności naukowych, a jej przeprowadzenie zajęło zespołowi Anthropica około dwóch tysięcy dwustu godzin obliczeń kosztujących mniej więcej cztery i pół tysiąca dolarów. Prostsze obejścia, od podpowiedzenia modelowi, że jest autonomicznym agentem czerwonego zespołu, po wstępne wypełnienie tokenów rozumowania, prowadziły do wykonania zadania w większości lub wszystkich przypadkach, przy czym żadna z tych technik nie zadziałała na zabezpieczone modele Claude, bo ich wagi nie są publiczne. Ośrodek CAISI przy NIST ocenił wcześniej, że GLM-5.3 jest najbardziej zdolnym cybernetycznie otwartym modelem w historii i pozostaje około czterech miesięcy za amerykańskim frontem, ale do amerykańskich wersji dostępu nie ma prawie nikt, a te wagi może pobrać każdy.
Do tego dochodzi mniej nagłośniona, a dla biznesu równie ważna warstwa licencyjna. Wagi samego GLM-5.3 są otwarte, ale licencja, której treść przeanalizował niezależny blog paddo.dev, zawiera klauzulę, że podmiot, którego łączny przychód przekracza dziesięć miliardów dolarów w dowolnych dwunastu miesiącach, musi przed użyciem komercyjnym przejść kontrolę bezpieczeństwa Z.ai, przy czym zakres i metodę tej kontroli ustala „w rozsądnym zakresie" samo Z.ai. To próg, powyżej którego znajduje się każde duże amerykańskie i chińskie hiperprzedsiębiorstwo, a poniżej tanie hosty i kwantyzatorzy. Chińskie laboratorium zachowuje więc trwałe prawo wglądu w to, kto może sprzedawać jego model na masową skalę, co w praktyce dzieli „otwarte" od „sprzedawalne przez każdego". Warto to zestawić z publikacją Luizy Jarovsky z 7 października, w której autorka newslettera o polityce i zgodności AI przekonuje, że organizacje nie mogą czekać na regulacje. Jest w tym twardy rdzeń i część narracyjna: same incydenty, w tym niedawne przypadki wypuszczenia agentów poza środowisko testowe, są faktem potwierdzonym przez laboratoria, natomiast teza o nieuchronnej eskalacji katastrof pozostaje interpretacją, a nie prognozą.
Źródło: luiza-newsletter