Dwa. Branża buduje własnego regulatora: rodzi się SAFA
Drugi ruch jest odpowiedzią na dokładnie ten sam problem, tylko zapisaną w statucie. Jak podał serwis The Information 24 września, Google, OpenAI i Anthropic są blisko powołania wspólnego organu standaryzacyjnego pod roboczą nazwą Standards Authority for Frontier AI, w skrócie SAFA, który miałby działać niezależnie od rządu i wyznaczać wspólne benchmarki oraz procedury testowania modeli frontier. Start zapowiadany jest na koniec tego roku albo początek 2027. Według tych samych doniesień spółki rozmawiały o stanowiskach z byłym doradcą Białego Domu do spraw polityki AI Sriramem Krishnanem, byłą urzędniczką administracji Bidena Arati Prabhakar, dyplomatką z czasów George'a W. Busha Condoleezzą Rice i inwestorem Davidem Friedbergiem, a wśród konsultantów naukowych wymieniane są Beth Barnes z niezależnej organizacji METR oraz Paul Christiano.
Źródło: the-information, metr
Pochodzenie pomysłu jest równie istotne jak jego treść. Konstrukcję wzorowaną na samoregulacji rynku finansowego, gdzie organizacja branżowa ustala reguły pod nadzorem regulatora, zaproponował w eseju z 14 lipca współzałożyciel Google DeepMind Demis Hassabis, dodając od razu, że finansowanie takiego ciała „musiałoby być znaczące i pochodzić w większości z branży". To nie przypadek, że pomysł wraca teraz: OpenAI i Anthropic miały osobno rozmawiać o umowie pozwalającej im wzajemnie testować własne komercyjne modele pod kątem podatności i nietypowych zachowań, a 23 września szefowie obu spółek wystąpili przed Radą Bezpieczeństwa ONZ.
Krytycznie patrząc, trzeba nazwać to po imieniu: to samoregulacja, nie regulacja. Organ nie potrzebuje zgody Kongresu ani prezydenta, dopóki nie chce mieć władzy prawnej, a jeśli miałby ją mieć, musiałby zarejestrować się przy agencji rządowej, tak jak dzieje się to na rynku finansowym. Zarazem dobór nazwisk, w tym ludzi, którzy badali incydent z Hugging Face, wskazuje, że spółki chcą kupić wiarygodność u zewnętrznych ewaluatorów, a nie stworzyć fasadową pieczątkę. W tle pozostaje jednak fakt, którego nie da się pominąć: administracja amerykańska odrzuca nowe regulacje, a część komentatorów, w tym byli urzędnicy odpowiedzialni za bezpieczeństwo AI, wskazuje wprost, że laboratoria zamiast wzmacniać nadzór państwowy, same wybierają sobie audytorów. Dla firm spoza USA praktyczna konsekwencja jest jedna i dotyczy dokumentacji: jeśli SAFA faktycznie powstanie, pojawi się drugi, obok unijnego, zbiór oczekiwań wobec testów i dowodów, a przygotowanie do obu naraz będzie tańsze niż do każdego z osobna (The Information, 24.09; BankInfoSecurity i CIO, 24.09; Yahoo Finance, 27.09).
Źródło: the-information, yahoo-finance