Trzy. „Wybuch inteligencji" jako dokument, nie jako metafora
Trzeci fakt przesuwa dyskusję o samodoskonalącej się sztucznej inteligencji z publicystyki do dokumentu z podpisami nazwisk, które mają realny wpływ na decyzje w pracowniach. Dwudziestego ósmego września ukazała się praca pod tytułem „Co jeśli automatyzacja badań nad AI wywoła wybuch inteligencji", podpisana między innymi przez Jacka Clarka, współzałożyciela Anthropica, Jakuba Pachockiego, głównego naukowca OpenAI, oraz pionierów uczenia maszynowego Geoffreya Hintona i Yoshuyę Bengio, w sumie przez ponad dwadzieścia osób z OpenAI, Anthropica, Microsoftu i Meta. Autorzy piszą wprost, że wstępne dowody sugerują, iż sterowany oprogramowaniem wybuch inteligencji jest możliwy, i że gdyby do niego doszło, byłby to najistotniejszy rozwój technologiczny w historii. Ich zdaniem automatyzacja badań może osłabić nadzór człowieka, a ryzyko polega na tym, że zdolności wyprzedzą zdolność społeczeństwa do kierowania technologią.
Ciężar tego dokumentu bierze się z konkretu, który autorzy przytaczają, a nie z samej tezy. Anthropic podał w tym miesiącu, że ponad jedna czwarta jego pracy badawczo-rozwojowej jest obecnie prowadzona przez model Claude, podczas gdy na początku roku było to praktycznie zero, a OpenAI deklaruje cel w postaci w pełni zautomatyzowanego badacza do dwudziestego ósmego roku. Innymi słowy, autorzy nie opisują hipotetycznej przyszłości, ale mierzą zjawisko, które już trwa w ich własnych firmach, i właśnie dlatego apelują o mechanizmy kontroli, w tym o widoczność tego, jak laboratoria automatyzują badania, o nadzór nad centrami danych używanymi do zautomatyzowanej pracy badawczej oraz o plany reagowania awaryjnego dla różnych scenariuszy. Krytycznie trzeba dodać dwa zastrzeżenia. Praca jest apelem politycznym, a nie wynikiem eksperymentu, więc jej wartość dowodowa jest inna niż raportu instytutu państwowego z pierwszego tematu. Po drugie, część sygnatariuszy ma bezpośredni interes w narracji o zbliżającym się przełomie, bo firmy, które ostrzegają przed własną technologią, jednocześnie zabiegają o względy regulatora i o wycenę przed debiutem. To nie unieważnia treści, ale nakazuje czytać ją razem z kontekstem, w którym powstała (Bloomberg za Yahoo Finance, Quartz i „Wall Street Journal", 28.09).
Źródło: bloomberg, yahoo-finance, wsj
Osobno warto odnotować fakt instytucjonalny, którego ta seria dotąd nie obejmowała. W tym samym tygodniu wystartowała organizacja non-profit o nazwie Sequent, złożona z badaczy z zespołu ds. alignmentu brytyjskiego Instytutu Bezpieczeństwa AI oraz z firmy Timaeus, a wcześniej zapowiadana między innymi przez Johna Schulmana. Jej założyciele nie kryją tonu: piszą, że sztuczna superinteligencja może powstać w ciągu najbliższych lat, nie jest jasne, czy prace nad alignmentem zdążą na ten sam czas, a programy badawcze wielkich laboratoriów są w istocie reaktywne, bo dają rozwiązania działające, ale bez uzasadnienia, kiedy przestaną działać. Plan zakłada zebranie od stu do stu pięćdziesięciu milionów dolarów i zatrudnienie od czterdziestu do osiemdziesięciu osób, z zastrzeżeniem, że jeśli uda się wykazać sensowność wielu równoległych kierunków, organizacja przygotowuje się na pozyskanie co najmniej dziesięciokrotnie większej kwoty. To nie jest news technologiczny, ale jest istotny rynkowo, bo powstaje niezależny ośrodek, który ma prawo publicznie skrytykować laboratoria, gdy uzna, że robią coś groźnego (Import AI, numer czterysta sześćdziesiąty pierwszy).
Źródło: import-ai