Dwa końce rynku otwartych wag: agent multimodalny na serwerze i model, który mieści się w telefonie
Dzień przyniósł dwa wydania modeli otwartych, które razem pokazują, jak dziś rozkłada się ten segment. Firma NVIDIA wypuściła Nemotron 3.5 Super VL, otwarty model multimodalny o stu dwudziestu miliardach parametrów, z których dwanaście pracuje przy każdym tokenie. Jeden model obsługuje tekst, obrazy, dokumenty i wideo, a także rozumowanie oraz wywoływanie narzędzi, co w praktyce usuwa potrzebę przekazywania wyników między osobnym modelem tekstowym i osobnym modelem wizyjnym. Wagi, dane treningowe i przepisy są dostępne publicznie, jak opisuje serwis AlphaSignal. Producent podaje do pięciu razy większą przepustowość na zadaniach agentowych niż modele otwarte tej samej klasy oraz czterokrotnie szybsze kończenie zadań programistycznych na układach B200, a w testach partnerów pojawiają się liczby o czterdzieści razy niższym koszcie wnioskowania i dziesięć razy niższym opóźnieniu. Trzeba tu zachować ostrożność: każda z tych liczb dotyczy innego wdrożenia, innego zadania i innej konfiguracji sprzętowej, więc opisują one pojedyncze przypadki, nie wspólny pomiar. Model powstał przez destylację z większego Nemotron 3 Ultra, a nie od zera.
Źródło: alphasignal
Po przeciwnej stronie skali chińska firma OpenBMB udostępniła MiniCPM-V 4.7, pierwszy model typu mieszanki ekspertów w swojej serii, o trzydziestu pięciu miliardach parametrów, z których trzy miliardy są aktywne. Producent podaje, że wariant ten generuje ponad trzynaście tokenów na sekundę na telefonie iPhone 17 Pro Max, zużywając około trzech gigabajtów pamięci, i nazywa go pierwszym płynnie działającym otwartym modelem tej architektury na urządzeniu. Licencja to Apache dwa zero, dostępne są kwantyzacje do czterech bitów i wsparcie dla popularnych narzędzi uruchomieniowych, a deklarowana jakość ma przewyższać model Qwen3.6 o podobnej liczbie parametrów przy krótszym czasie wnioskowania, co pozostaje autodeklaracją producenta. Wspólny wniosek z obu wydań jest taki, że otwarte wagi nie walczą dziś o jedno miejsce w rankingu, lecz zajmują dwa przeciwległe końce: scentralizowane agenty multimodalne na serwerze oraz małe modele działające lokalnie na urządzeniu, gdzie liczą się pamięć i koszt krańcowy, a nie pozycja w tabeli.