Nvidia pokazuje, że o liczbie obsługiwanych agentów decyduje wat, a nie układ
Nvidia i niezależny serwis benchmarkowy Artificial Analysis opublikowały pierwsze wyniki pomiaru AA-AgentPerf dla systemu Vera Rubin NVL72, a wniosek nie jest tak prosty, jak sugeruje nagłówek o pięciu i siedmiu dziesiątych razy. Chodzi o przepustowość na megawat, czyli o to, ile pracy wykona centrum danych przy stałym budżecie energetycznym, i na zadaniach agentowych opartych na kodzie Vera Rubin osiąga do pięciu i siedmiu dziesiątych razy większą przepustowość niż wcześniejszy system GB300 NVL72: na modelu DeepSeek V4 Pro, pięć i cztery dziesiąte na DeepSeek V4.1 Flash, trzy razy na GLM-5.2 i dwa i osiem dziesiątych na Kimi K3. Przy szczytowej przepustowości obu platform przewaga jest już tylko umiarkowana i wynosi od czternastu do czterdziestu pięciu procent, a rozjeżdża się dopiero wtedy, gdy pojedyncza sesja ma generować tokeny szybciej. Przy przejściu od około stu dwudziestu do stu sześćdziesięciu pięciu tokenów na sekundę na użytkownika przepustowość na megawat spada w GB300 o osiemdziesiąt jeden procent, a w Rubinie tylko o szesnaście. To rozróżnienie opisuje dwa typy obciążenia: przy krótkich, interaktywnych zapytaniach, gdzie liczy się czas do pierwszej odpowiedzi, starszy system okazuje się lepszy, bo mediana tego czasu wyniosła dla niego jedną i osiem setnych sekundy wobec jednej i sześćdziesięciu pięciu setnych w systemie Rubin. Przewaga jest więc przewagą w konkretnym trybie pracy, nie uniwersalną.
Źródło: artificial-analysis
Co ją daje, widać w specyfikacji. Rubin zachowuje układ poprzednika, ale podnosi pamięć do drugiej generacji HBM o przepustowości dziewiętnastu i dwóch dziesiątych terabajta na sekundę na układ wobec ośmiu u poprzednika, zwiększa łącze NVLink z jednego i ośmiu do trzech terabajtów na sekundę i niemal podwaja pasmo między procesorem a kartą graficzną, które przenosi stan pamięci podręcznej. To ostatnie jest dla agentów kluczowe, bo pozwala trzymać więcej aktywnych sesji poza pamięcią karty bez kary za transfer. Trzeba jednak odnotować zastrzeżenia, które sam opis podnosi: wszystkie wyniki zgłosiła i dostroiła Nvidia, więc są to konfiguracje zoptymalizowane przez producenta, bez niezależnego powtórzenia, a w przypadku jednego z modeli ograniczono długość odpowiedzi do dwóch tysięcy czterdziestu ośmiu tokenów, co według Artificial Analysis nieznacznie sprzyja Rubinowi. Warto pamiętać kontekst opisany w wydaniu porannym: tydzień przeceny spółek infrastruktury pokazał, że największym pytaniem nie jest dziś, czy układy są szybsze, lecz czy da się je sfinansować. Skoro pieniądz jest drogi, to wydajność na wat staje się argumentem sprzedażowym mocniejszym niż szczytowy wynik jednego benchmarku.
Źródło: artificial-analysis