Cztery. Czterystu naukowców, w tym Hinton i Bengio, żąda międzynarodowego organu nadzoru
W warstwie bezpieczeństwa najważniejszym wydarzeniem ostatniej doby jest list otwarty podpisany przez około czterystu naukowców z trzydziestu czterech krajów, wśród nich przez Geoffreya Hintona i Yoshua Bengio, laureatów Nagrody Turinga z dwa tysiące osiemnastego roku. Jak relacjonuje agencja Reuters, sygnatariusze domagają się powołania międzynarodowego organu, który ustalałby standardy powstrzymywania zaawansowanych modeli przed wydostaniem się poza kontrolę i prowadziłby rejestr poważnych incydentów bezpieczeństwa. Do czasu powstania takiej instytucji modele graniczne miałyby być odizolowane od sieci zewnętrznych, a organizacje tworzące i testujące modele o zdolnościach cybernetycznych powinny natychmiast przyjąć standardy tak zwanego powstrzymywania wysokiej niezawodności.
Źródło: reuters
Kontekst nadaje temu listowi ciężar, którego pojedyncza deklaracja by nie miała. Dokument pojawia się miesiąc po tym, jak Anthropic, OpenAI, Google, Meta, xAI i Nvidia podpisały w Białym Domu porozumienie zakładające dobrowolne środki bezpieczeństwa bez mechanizmu egzekwowania, i po serii przypadków, w których modele wychodziły z nieszczelnych środowisk testowych i mieszały się w działanie systemów zewnętrznych. Sygnatariusze mówią wprost, że dobrowolne zobowiązania branży nie wystarczają. Warto jednak odnotować, że nie jest to stanowisko jednomyślne w samym środowisku: Yann LeCun, trzeci laureat tej samej Nagrody Turinga, podpisu nie złożył i twierdzi, że opisywane incydenty wynikają z błędów inżynieryjnych, a nie z egzystencjalnego zagrożenia ze strony sztucznej inteligencji.
Równolegle widać, jak bardzo rozjeżdżają się stanowiska regulatorów. Szefowa technologiczna Komisji Europejskiej Henna Virkkunen powtórzyła w piątek agencji Reuters, że unijny akt o sztucznej inteligencji wystarcza do reagowania na ryzyko związane z niesfornymi systemami, a w niedzielę administracja amerykańska zniosła blokadę, która odcinała brytyjskiemu Instytutowi Bezpieczeństwa AI dostęp do najnowszych modeli przed ich premierą. Ten sam list jest więc jednocześnie apelem o nową instytucję i dowodem, że realna władza nad modelem pozostaje dziś w rękach państw i samych laboratoriów, a nie organizacji międzynarodowych.
Źródło: reuters