Dwa. Automatyzacja badań nad AI: nowy paper z nazwiskami największych autorytetów i dwa twarde pomiary labów
Drugi obszar jest naukowy i zarazem najbardziej brzemienny w skutki. Dwudziestego ósmego września opublikowano na arXiv pracę zatytułowaną „What if automating AI R&D triggers an intelligence explosion?", przygotowaną w ramach CASP i Governance.ai przez szerokie grono autorów, wśród których są między innymi Geoffrey Hinton i Yoshua Bengio, laureaci Nagrody Nobla i Turinga, a obok nich Jakub Pachocki z OpenAI, Jack Clark z Anthropic, Andrew Barto, Eric Horvitz i Dawn Song. Autorzy definiują eksplozję inteligencji jako dramatyczne przyspieszenie postępu, które ściśnie lata pracy do miesięcy lub mniej, i wskazują trzy główne ryzyka: wzrost możliwości szybszy niż zdolność społeczeństw do nadzoru, utratę kontroli nad systemami oraz erozję mechanizmów kontroli wewnątrz państw i firm. Trzeba tu jednak wyraźnie oddzielić warstwę dowodową od tezy. Twardy jest sam fakt publikacji i jej autorstwo, a także dwa konkretne pomiary, na których się ona opiera: OpenAI przyznało we wrześniu, że osiągnęło cel tak zwanego automatycznego stażysty badawczego i pracuje nad w pełni automatycznym badaczem do marca 2028 roku, co opisano na oficjalnym blogu firmy, a Anthropic w swoim wskaźniku automatyzacji prac badawczo-rozwojowych podał, że Claude „prowadzi" dwadzieścia sześć procent wewnętrznych prac R&D, wobec mniej niż jednego procenta w lutym, a ponad dziewięćdziesiąt procent pracy znajduje się na poziomie co najmniej współpracy z modelem. Ostrożność nakazuje natomiast potraktowanie samej wizji eksplozji jako hipotezy, którą autorzy sami określają jako niepewną. Sens praktyczny jest mimo to czytelny: jeśli tempo automatyzacji badań utrzyma się, to przewaga jednego laboratorium nad drugim może przestać rosnąć liniowo, a zacząć rosnąć lawinowo, co zmienia kalkulację zarówno dla inwestorów, jak i dla regulatorów.