Microsoft pokazuje Maia 300 i zapowiada własny krzem na skalę wielu gigawatów
Odpowiedzią największych kupujących na te koszty jest próba zastąpienia gotowych układów własnymi. W poniedziałek Microsoft przedstawił trzecią generację swojej rodziny akceleratorów Azure Maia, nazwaną Maia 300, i zapowiedział skalowanie jej do wdrożeń o mocach liczonych w wielu gigawatach, począwszy od dwa tysiące dwudziestego siódmego roku. Z komunikatu firmy wynika, że Maia 300 ma być podstawowym systemem wnioskowania dla produktów i usług Microsoftu, a jej poprzednik, Maia 200, obsługuje już dziś produkcyjne obciążenia, między innymi asystenta Copilot, modele OpenAI, własne modele z rodziny MAI oraz czołowe modele otwarte, a do końca roku dołączą do nich GitHub Copilot i platforma Microsoft Foundry. Producent podaje, że Maia 200 dostarcza do jednego i siedmiu dziesiątych razy więcej tokenów na wat w porównaniu z wiodącą infrastrukturą opartą na układach graficznych, a Maia 300 ma dać o czterdzieści procent więcej tokenów na megawat oraz do siedmiu razy większą przepustowość tokenów w skali całej szafy w konfiguracji dziewięćdziesięciu sześciu akceleratorów.
Ważniejsza od tych liczb jest deklarowana architektura, bo wskazuje, gdzie Microsoft widzi dziś wąskie gardło. Firma mówi wprost, że ograniczeniem dużych systemów wnioskowania staje się nie surowa moc obliczeniowa, lecz przemieszczanie danych, i dlatego Maia 300 projektowana jest wokół tak zwanej architektury przepływu danych sterowanej programowo, która ma maksymalizować lokalność obliczeń. To ta sama diagnoza, którą przy okazji karty Intela D270 opisaliśmy dziś rano: o wydajności decyduje dziś pamięć i sposób, w jaki dane do niej trafiają, a nie sama liczba operacji na sekundę. Trzeba przy tym zaznaczyć, że wszystkie podane liczby pochodzą od producenta, nie zostały opublikowane niezależne pomiary, a sama Maia 300 trafi na rynek dopiero w dwa tysiące dwudziestym siódmym roku, więc są to zapowiedzi, nie wyniki. Znaczenie tego ruchu jest jednak podwójne. Z jednej strony zmniejsza zależność Microsoftu od Nvidii i AMD, z drugiej pokazuje, że najwięksi odbiorcy układów coraz częściej sami stają się ich producentami, co dla rynku krzemu oznacza rosnącą presję na marże dostawców zewnętrznych.