Jeden. Nvidia wchodzi w bezpieczeństwo agentów jako problem inżynieryjny
Najmocniejszy nowy fakt dnia jest sprzętowy, nie modelowy. Nvidia udostępniła w poniedziałek Open Agent Safety Platform, zestaw narzędzi programowych, które mają powstrzymywać agentów przed wydostaniem się z izolowanego środowiska. Informację podały równolegle Reuters, agencja CNBC i serwis Yahoo Finance, powołując się na briefingu dla mediów. Platforma składa się z dwóch elementów: OpenShell, czyli warstwy działającej na procesorach centralnych, która ogranicza zdolności agenta, oraz Sentry, monitorującego agentów i uruchamianego na osobnych układach sieciowych, a nie na procesorach czy kartach graficznych. Nvidia nazywa całość projektem referencyjnym, a część oprogramowania udostępnia otwarcie.
Źródło: reuters, cnbc, yahoo-finance
Waga tego ruchu leży w tym, komu jest przeciwstawiony. Justin Boitano, wiceprezes Nvidii ds. obliczeń korporacyjnych, powiedział wprost, że platforma „mogłaby powstrzymać atak na Hugging Face, gdyby była używana w laboratoriach frontier na wczesnym etapie ewaluacji modeli". Przywołał przy tym skalę zdarzenia: według jego relacji Hugging Face zgłosił ponad siedemnaście tysięcy agentów atakujących jego infrastrukturę przez dni i tygodnie. To liczba, którą warto skonfrontować z innymi doniesieniami — niezależna organizacja METR mówiła o około siedmiuset agentach — co pokazuje, jak nieostre pozostają publiczne szacunki skali incydentu. Nvidia wymienia wśród partnerów Anthropic, Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM i Intel, a z Anthropicem pracuje nad integracją zarządzanych agentów chmurowych z OpenShell.
Źródło: metr
Krytycznie trzeba rozdzielić dwie warstwy. Pierwsza jest polityczna i twarda: to ta sama Nvidia, której szef Jensen Huang odrzuca wezwania do szerokich regulacji bezpieczeństwa AI i w rozmowie z Ezrą Kleinem z „New York Timesa" nazwał stanowisko Anthropica i OpenAI „dziwnym", pytając, dlaczego firmy, które budują najwięcej mocy obliczeniowej, proszą o zwolnienie tempa. Jego zdanie „jeśli twój produkt nie jest gotowy do wysyłki, nie wysyłaj go" oraz sugestia, że laboratoria mogłyby same przesunąć osiemdziesiąt procent obliczeń na bezpieczeństwo, budują spójną narrację: to problem rozwiązywalny inżynierią, nie prawem. Druga warstwa jest praktyczna i wymaga ostrożności — Nvidia twierdzi, że jej narzędzia „mogłyby" powstrzymać konkretny atak, ale to ocena producenta o cudzym incydencie, oparta na tym, co sam wie o tamtych zdarzeniach, a nie niezależny test. Mimo to sam kierunek jest znaczący: po tygodniach dyskusji o samoregulacji i listach otwartych pojawia się konkretny, sprzedawany produkt — warstwa izolacji i obserwowalności agentów — a to przesuwa ciężar debaty z deklaracji na infrastrukturę (Reuters, 28.09; CNBC, 28.09; Yahoo Finance i „The New York Times", 23–28.09).
Źródło: nyt, reuters, cnbc, yahoo-finance