Anthropic ostrzega: modele są o kilka miesięcy od samodzielnego kopiowania się na domowych urządzeniach
Drugim wydarzeniem, tym razem w warstwie bezpieczeństwa, jest opublikowany w poniedziałek raport zespołu Frontier Red Team firmy Anthropic, którego autorami są William Zhou i Daniel Freeman. Jego teza jest dokładnie odwrotna od obrazu, który dominował w tej branży od lat, bo dotyczy nie wielkich centrów danych, lecz najtańszych urządzeń w domu. Autorzy pokazują eksperymentalnie, że modele o trzydziestu miliardach parametrów i mniejsze potrafią już dziś wykonać wiele pojedynczych kroków potrzebnych do samodzielnego rozmnożenia się w sieci, choć mylą się, gdy próbują złożyć je w spójną całość. Model o dziewięciu miliardach parametrów poradził sobie z uruchomieniem wnioskowania na ośmiu z dziewięciu badanych typów urządzeń, a model Gemma 4 26B-A4B, czyli mieszanka ekspertów o dwudziestu sześciu miliardach parametrów ogółem i czterech miliardach aktywnych na token, został rozłożony na piętnaście kupionych za około pięćdziesiąt pięć dolarów sztuka nieznanych marek przystawek telewizyjnych z systemem Android i działał na nich z prędkością trzydziestu dziewięciu setnych tokenu na sekundę. W uproszczonych testach, jak piszą autorzy, modele klasy GLM-5.2 i mocniejsze potrafią już domknąć cały cykl replikacji, a jeśli tempo poprawy utrzyma się jak dotychczas, ta sama zdolność stanie się udziałem małych modeli do końca roku.
Trzeba tę publikację ocenić równie krytycznie, jak każdy inny materiał, bo pochodzi od firmy, która jednocześnie ostrzega przed ryzykiem i sama rozwija modele graniczne. Autorzy są tu zresztą uczciwi w jednym istotnym punkcie: przyznają, że nie istnieje jeszcze w pełni samodzielny replikator, a sam eksperyment pomija część cybernetyczną, bo łatwość wykorzystywania luk jest już udokumentowana w innych pracach i nie była przedmiotem tego badania. To zatem dowód na wykonalność poszczególnych ogniw łańcucha, a nie na to, że taki robak już działa w sieci. Wartość tej pracy leży gdzie indziej, w zmianie modelu zagrożenia, którą dobrze ujął cytowany przez stację Al Dżazira ekspert od cyberbezpieczeństwa z uniwersytetu w Louisville, Roman Jampolskij: robak napisany przez człowieka nie jest nowością, ale robak oparty na modelu potrafi rozumować o nieznanym urządzeniu, zmienić podejście, gdy pierwsze zawiedzie, i szerzyć się bez operatora. Kluczowa różnica polega więc na tym, że takiego systemu nie da się wyłączyć w jednym punkcie, bo nie ma jednego serwera ani jednej organizacji, która by nim sterowała.
Źródło: al-jazeera
W tej samej dobie Anthropic złożyło drugą deklarację, która domyka obraz napięcia między otwartością a kontrolą. Firma poinformowała, że dzięki wprowadzonym zabezpieczeniom zredukowała nielegalne wydobywanie wiedzy z modeli, czyli tak zwane ataki destylacyjne, o dziewięćdziesiąt do dziewięćdziesięciu dziewięciu procent, i oskarżyła przy tym chińskich konkurentów, między innymi DeepSeek, Moonshot i MiniMax, o kopiowanie Claude w skali przemysłowej. Zestawienie obu komunikatów pokazuje strategię, która dla rynku jest być może ważniejsza niż samo ostrzeżenie. Firma, która za kilka tygodni ma wejść na giełdę przy wycenie sięgającej według doniesień Reutersa i Bloomberga nawet dwóch bilionów dolarów, mówi jednocześnie, że kontrola nad modelami jest kluczowa i że jej własne zabezpieczenia są tego dowodem. Ryzyko technologiczne staje się więc częścią argumentu inwestycyjnego: im poważniejsze zagrożenie się opisuje, tym cenniejsza wydaje się własność technologii tego, kto potrafi je kontrolować.
Źródło: reuters, bloomberg