Sztuczna inteligencja: akord podpisany w Białym Domu i pytanie o granice samoregulacji
W obszarze sztucznej inteligencji poranne wydanie opisało szczegółowo podpisanie w Białym Domu dobrowolnego porozumienia o superinteligencji, więc ograniczam się do nowych elementów, które ujawniły się w ciągu dnia, a które pozwalają ocenić, jak mocny jest ten dokument. Według publicznego radia NPR i telewizji CNN treść akordu, opublikowana przez prezydenta w serwisie Truth Social, przewiduje cztery kroki: wprowadzenie tak zwanych solidnych kontroli wewnętrznych, wyznaczenie zespołu, który ma pilnować, czy kontrole i monitorowanie działają zgodnie z zamiarem, współpracę z niezależnym zewnętrznym audytorem oceniającym modele, oraz powołanie w każdej spółce komitetu rady nadzorczej, który ma odbierać raporty audytorów i pilnować usuwania problemów. Dokument zawiera też zdanie, że z czasem może mieć sens przeniesienie tych kroków do ustaw i regulacji. Podpisali go, obok prezydenta, Dario Amodei z Anthropic, Sundar Pichai z Google, Mark Zuckerberg z Meta, Greg Brockman z OpenAI, Jensen Huang z Nvidii i Elon Musk, którego spółka xAI należy obecnie do SpaceX. Brakuje na nim podpisów Alexa Karpa z Palantira i Jeffa Bezosa z Amazonu, którzy w spotkaniu uczestniczyli, co pokazuje, że lista sygnatariuszy nie pokrywa się z listą obecnych.
Źródło: npr, cnn
Wiarygodność i zarazem słabość tego porozumienia dobrze oddają wypowiedzi z samego spotkania. Prezydent powiedział dziennikarzom, że widzi „ogromną samoregulację” i że firmy „rozumieją, że muszą same siebie pilnować”, nazwał porozumienie moralnie wiążącym i zapowiedział, że wkrótce podpisze rozporządzenie zmieniające urzędową nazwę sztucznej inteligencji na superinteligencję. Zapowiedź zmiany nazwy jest faktem potwierdzonym wypowiedzią prezydenta, ale nie ma jeszcze dokumentu, a jej sens praktyczny jest niewielki poza komunikacyjnym. Najciekawsze są jednak dwa zdania wypowiedziane przy tej samej okazji przez najważniejszych graczy. Dario Amodei, który od miesięcy publicznie apeluje o spowolnienie wyścigu, powiedział, że „technologia ma bardzo realne ryzyka”, a mechanizm ich adresowania jest nadal przedmiotem dyskusji, i osobno na antenie CNBC stwierdził, że jego firma „czasem nie trenuje modelu”, by móc przedstawić wiarygodne argumenty o bezpieczeństwie. Prezydent tymczasem powiedział o Chinach: „nie chciałem nic robić, bo prowadzimy. Po co miałbym coś robić?”. Zestawienie tych dwóch zdań jest najlepszym podsumowaniem stanu rzeczy: laboratorium deklaruje dobrowolne powstrzymanie, a administracja jawnie odrzuca logikę wspólnych ograniczeń, także wobec porozumienia o kanale komunikacji w sprawie incydentów AI, które uzgodniono z Pekinem we wrześniu. Krytyczna ocena narzuca się sama: dokument opisuje procedury audytu wewnątrz firm, a nie normy, które byłyby egzekwowalne wobec firmy, która postanowi je zignorować. Nie jest to jednak wyłącznie pozór: samo istnienie zewnętrznego audytu i komitetu rady tworzy ścieżkę, którą wcześniej czy później można wypełnić treścią ustawową, i tak właśnie przedstawia to sam akord.
Źródło: cnbc
Drugi nowy element dotyczy pieniędzy i wiarygodności rynku. Dziennik „Fortune” i agencja Reuters opisały szczegóły prospektu emisyjnego Anthropic, która planuje wejście na giełdę z wyceną docelową powyżej dwóch bilionów dolarów, czyli ponad dwukrotnie większą niż jej własna szacowana wartość dziewięciuset sześćdziesięciu pięciu miliardów dolarów z maja. Liczby wyglądają na pierwszy rzut oka sprzecznie i trzeba je rozłożyć: przychód spółki wzrósł dwunastokrotnie, do niespełna czterech i sześciu dziesiątych miliarda dolarów w 2025 roku, strata operacyjna pogłębiła się do ośmiu miliardów sześćdziesięciu milionów z dwóch miliardów dziewięćdziesięciu ośmiu milionów rok wcześniej, a strata netto za 2025 rok wyniosła około czterdziestu dwóch miliardów dolarów, przy czym blisko trzydzieści cztery miliardy z tej kwoty to obciążenie księgowe wynikające ze wzrostu wycen instrumentów finansowania, a nie pieniądze wydane na bieżącą działalność. Równocześnie spółka zapowiada zobowiązania rzędu pięciuset osiemnastu miliardów dolarów na usługi chmurowe i centra danych w najbliższych latach, a w drugim kwartale 2026 roku osiągnęła przychód jedenastu i pięciu dziesiątych miliarda dolarów i drugi kwartał z rzędu rentowność operacyjną. Dodatkowym faktem o znaczeniu systemowym jest to, że jedna czwarta przychodu pochodzi od dwóch klientów, a publiczna oferta ma się najprawdopodobniej odbyć po wyborach do Kongresu w listopadzie. Sens tej historii jest dwojaki: rynek zaczyna wyceniać dostawców modeli jak spółki infrastrukturalne, choć ich rachunek wyników nadal zależy od decyzji garstki klientów, a sam prospekt, jak pisze „Fortune”, poświęca ponad jedną trzecią objętości na ostrzeżenia o ryzykach, w tym o zagrożeniach egzystencjalnych. Prospekt Anthropic został opisany w szczegółach w analizie z dnia 29.09, godzina 16:14, natomiast wydanie poranne z 30.09 do niego nie wracało, dlatego porządkuję te liczby tutaj.
Źródło: fortune, reuters
Trzecim wątkiem, który pojawił się dziś w obiegu publicznym, jest pytanie o trwałość jakości modeli w momencie, gdy stają się one podstawą komercyjnych produktów. W serwisie Hacker News najgorętszym technicznym wątkiem dnia jest narzędzie Livenerf, które mierzy powtarzalność odpowiedzi modelu i pyta wprost, czy Opus 5.5, wydany 22 września, został już „osłabiony”, czyli czy jego wyniki w zadaniach testowych spadły w stosunku do dnia premiery. Wątek zebrał setki punktów i komentarzy, a próg uznania zmiany ustalono na odchylenie powyżej dziesięciu procent. Znaczenie tego zjawiska nie polega na tym, czy akurat Opus 5.5 rzeczywiście działa słabiej, bo niezależnego potwierdzenia takiej zmiany nie ma i sama firma jej nie potwierdziła, lecz na tym, że powstała niezależna, publiczna metryka, którą klienci mogą porównywać z deklaracjami producenta. W warunkach, gdy wartość rynkowa laboratoriów sięga bilionów dolarów, a ich własne porozumienie opiera się na audycie zewnętrznym, taki nieformalny benchmark jest realnym mechanizmem kontroli.
Źródło: hacker-news
Czwarty wątek dotyczy regulacji europejskiej i kosztów infrastruktury. Holenderski dziennik „NL Times” podał dziś, że większość dużych centrów danych w Holandii odmawia ujawnienia, ile zużywa wody i prądu: publiczne dane o zużyciu energii istnieją dla czterdziestu czterech obiektów, a o zużyciu wody dla czterdziestu siedmiu, co stanowi mniej niż jedną czwartą większych centrów danych w kraju. Tło jest takie, że Komisja Europejska zaproponowała 21 września wspólny system oznaczania, który nakładałby na centra danych o mocy od pięciuset kilowatów obowiązek ujawniania efektywności energetycznej i wodnej. Mechanizm jest tu wart uwagi, bo pokazuje, jak de-coupling i wyścig o moce obliczeniowe przenoszą się na spory lokalne o wodę i energię: to samo tempo budowy, które napędza wyceny spółek, wywołuje opór społeczności i presję regulacyjną w Europie i Stanach Zjednoczonych. Osobno warto odnotować, że pakiet tak zwany digital omnibus, przyjęty w czerwcu, przesunął termin obowiązywania obowiązków dla systemów wysokiego ryzyka z drugiego sierpnia 2026 roku na drugi grudnia 2027 roku, co pokazuje, że Unia w praktyce łagodzi własne terminy, starając się nie wypaść z wyścigu.