OpenAI ogłasza wyniki w matematyce, a matematycy ogłaszają sprzeciw
Najgłośniejszym wydarzeniem technicznym ostatnich dni jest publikacja, którą OpenAI wypuściło szóstego października. Firma udostępniła w repozytorium GitHub szeroki zestaw manuskryptów — jak podają sami autorzy, ponad siedemset plików — które mają zawierać rozwiązania lub istotny postęp w długo otwartych problemach matematyki i informatyki teoretycznej. Wśród nich znalazło się twierdzenie, że tak zwana zasada podziału nie pociąga za sobą aksjomatu wyboru, czyli problem nurtujący matematyków od ponad wieku. OpenAI opisało metodykę: wyniki wygenerował wewnętrzny model fronowy, przeciętne rozwiązanie zużyło mocy obliczeniowej równowartość około trzech godzin „myślenia" w płatnej wersji ChatGPT Pro, a przygotowanie manuskryptów i formalizacja dowodów w języku Lean powstały przy udziale ludzi z tym samym modelem. Firma zastrzegła, że odpowiedzialność za poprawność bierze na siebie, a sam argument matematyczny jest dziełem jej systemu.
Reakcja części środowiska była ostra i szybka. Siódmego października organizacja Association for Human Mathematics opublikowała oświadczenie, w którym napisała wprost, że siedemset plików wypuszczonych naraz nie jest demonstracją dorobku naukowego, lecz demonstracją władzy, i wezwała matematyków, by zaprzestali pracy z OpenAI. Zarzut jest tu podwójny. Po pierwsze, jak zauważa oświadczenie, grupa doradcza do spraw matematyki i sztucznej inteligencji, na której OpenAI powoływało się jako na źródło legitymizacji, otwierała swoje rekomendacje apelem, by firmy nie testowały zaawansowanych problemów matematycznych na wewnętrznych modelach — a więc publikacja miałaby ignorować samą przesłankę tych zaleceń. Po drugie, dochodzi do tego zarzut warsztatowy. Matematyk Asaf Karagila, specjalizujący się właśnie w aksjomacie wyboru, przeanalizował artykuł o zasadzie podziału i napisał, że jest on niejasny, posługuje się dziwną terminologią i cytuje niepublikowane notatki wykładowe zamiast prac recenzowanych, a w formie, w jakiej trafił do obiegu, zasługiwałby na odrzucenie na wstępie przez redakcję czasopisma.
Najistotniejsza warstwa tej sprawy jest jednak techniczna, bo dotyczy pytania, jak bardzo można ufać formalizacji dowodów. Thomas Hales, jeden z pionierów weryfikacji komputerowej, opublikował gościnny tekst na blogu Terence'a Tao poświęcony niezawodności asystenta Lean. Wyjaśnia w nim, że formalizacja oznacza dziś realny przełom — w tym roku sformalizowano między innymi wielkie twierdzenie Fermata, a projekty potrafią generować miliony linii kodu w dni — ale zarazem przestrzega, że dowód w Lean wolno uznać dopiero po sprawdzeniu przez jądro systemu i po audycie człowieka, który potwierdzi, że sformalizowane twierdzenie to rzeczywiście to samo, o którym mówiono w języku naturalnym. Formalizacja może bowiem „udowodnić" twierdzenie, które w wyniku przekładu znaczy coś innego. Hales przypomina też o serii błędów poprawności, czyli luk pozwalających dowieść fałszu, znalezionych w jąderkach asystentów. Warto rozdzielić tu fakty od ocen. Faktem jest sama publikacja i to, że część wyników ma certyfikaty w Lean. Ocena, czy to realny postęp w matematyce, czy raczej popis możliwości, pozostaje sporna, a zarzuty dotykają przede wszystkim jakości przekazu, a nie samego istnienia obliczeń.