Pięć. Apple proponuje chmurę z bezczynnych Maków
Z zupełnie innego końca tej samej osi przyszedł pomysł, który pokazuje, że moc obliczeniowa może być nie tylko droższa, ale i lepiej zagospodarowana. Zespół badawczy Apple opublikował dziewiątego października krótką, trzystronicową pracę pod tytułem Minions, opisującą dynamiczną i rozproszoną chmurę wirtualnych układów graficznych zbudowaną z bezczynnych komputerów Apple. Autorzy, wśród których są Jianhua Li, Yun Xing, Girisha De Silva, Ryan Flint, Kai Yuan i Sean Suchter, wychodzą z prostego spostrzeżenia: nowoczesne Maki mają wydajne układy graficzne, które przez większość dnia stoją bezczynnie, a jednocześnie zespoły zajmujące się uczeniem maszynowym czekają godzinami na dostęp do scentralizowanej infrastruktury. Ich system rozdziela zadania wnioskowania, na przykład generowanie osadzeń albo uzupełnianie tekstu, między prywatne komputery pracowników, przy czym nie ma w nim centralnego planisty, bo to urządzenia osobiste, które znikają i wracają do sieci. Zamiast tego każdy wykonawca sam pobiera pracę z kolejki, a bazodanowe ograniczenie klucza gwarantuje, że dane zadanie trafi do dokładnie jednego z nich. Odporność na awarie zapewniają sygnały życia wysyłane co pięć minut i mechanizm nadzorczy, który przywraca do kolejki zadania porzucone przez wyłączony komputer.
Uczciwa ocena tej pracy wymaga wyraźnego powiedzenia, czego w niej nie ma. Autorzy nie podają ani zmierzonej przepustowości, ani oszczędności, nie udostępniają kodu, a sami piszą, że ich rozwiązanie uzupełnia scentralizowane układy, a nie je zastępuje. Praca dowodzi zatem wykonalności w warunkach operacyjnych, na przykład tego, że zadania, które czekały na moc obliczeniową ponad dziesięć godzin, udało się wykonać taniej, a nie tego, że pula Maków dorównuje wydajnością dedykowanej infrastrukturze. To odróżnia ją od opisywanego dziś rano projektu Maya, w którym pojedynczy model o setkach miliardów parametrów uruchamiano na jednej stacji roboczej: tam chodziło o rozmiar modelu, tu o wykorzystanie wielu maszyn, które już istnieją. Wspólny wniosek z obu prac jest jednak ten sam i spójny z całym tygodniem: presja na koszt jednostkowy wypycha sztuczną inteligencję na sprzęt, który już stoi na biurkach, niezależnie od tego, czy jest to jedna stacja robocza, czy pula kilkudziesięciu laptopów.