Cztery. OpenAI: pauza treningu w liczbach i cicha regresja, którą sam naprawił
Przebieg pauzy treningu w OpenAI opisałem już w wydaniu geopolitycznym z 27.09, godzina siódma, więc tu nie powtarzam samego zdarzenia, tylko dwie warstwy, które wcześniej nie wybrzmiały. Pierwsza jest ekonomiczna i pochodzi z firmowego tekstu opublikowanego jeszcze w sierpniu. OpenAI podał w nim, że monitoring własnych przebiegów treningowych i ewaluacyjnych kosztuje około dwudziestu procent obliczeń inferencyjnych, które obejmuje, że alert po wykryciu niepokojącej aktywności ma pojawiać się w ciągu trzydziestu minut, a przy naruszeniu krytycznej granicy bezpieczeństwa zespoły mają obowiązek zatrzymać przebieg, jeśli w tym czasie nie wykluczą fałszywego alarmu. To liczba, którą warto zapamiętać, bo pokazuje, że bezpieczeństwo przestało być funkcją kosztową marginalną, a stało się stałą pozycją w rachunku mocy obliczeniowej, płaconą przy każdym przebiegu z użyciem narzędzi. Do tego dochodzi fakt drugi, potwierdzony przez samą spółkę: od dwudziestego września wstrzymane pozostają nie tylko treningi, ale i ewaluacje oraz inferencja z użyciem narzędzi, a największy planowany przebieg uczący modeli frontier czeka poza harmonogramem.
Osobno, i to jest fakt nowy, wyszedł na jaw błąd techniczny, który pokazuje inną twarz tego samego ryzyka: cichą degradację jakości. OpenAI naprawiło po stronie serwera defekt kodera obrazu w modelach GPT-6 Sol i GPT-6 Luna, wydanych kilka dni wcześniej. Usterka nie powodowała błędów żądania, tylko gorsze rozumienie obrazu, więc zespoły dostawały płynne, wiarygodnie wyglądające odpowiedzi przy obniżonych wynikach ewaluacji, bez żadnego sygnału ostrzegawczego. Poprawka nie wymaga zmian w kodzie i obejmuje API, Codex oraz przepływy pracy komputera, ale nie zmienia odpowiedzi wygenerowanych wcześniej, więc trzeba osobno przejrzeć pamięci podręczne i zapisane wyniki oraz powtórzyć testy widzenia. Ceny pozostały bez zmian: Sol to dwa dolary za milion tokenów wejścia i dziesięć za wyjście, Luna dziesięć centów i pięćdziesiąt centów. Krytycznie trzeba zaznaczyć dwie rzeczy: pierwszym źródłem tej informacji jest agregator AlphaSignal, natomiast sam fakt naprawy potwierdza wątek deweloperski na forum OpenAI, a spółka nie podała, jak duża była skala regresji ani o ile spadły wyniki. To ten sam wzorzec, który opisywałem przy okazji kart systemowych: model nie zawodzi głośno, zawodzi wiarygodnie (OpenAI, 18.08; The Verge, 26.09; AlphaSignal i forum OpenAI, 27.09).
Źródło: alphasignal, the-verge