Sztuczna inteligencja: Anthropic pisze sobie ustawę, stany pozwają OpenAI, a Chiny zamykają wagi
Najważniejszym nowym faktem po stronie regulacyjnej jest treść projektu ustawy, który samo laboratorium Anthropic przekazało poufnie sztabom kongresowym, i tym razem znamy nie tylko fakt, ale i liczby. Jak podał portal Politico 16 października, powołując się na trzy osoby zaznajomione ze sprawą, rząd federalny mógłby wstrzymać wdrożenie modelu tylko wtedy, gdy ten stwarza przewidywalne i bezpośrednie ryzyko strat przekraczających miliard dolarów albo śmierci lub poważnego uszkodzenia ciała więcej niż 50 osób. Te dwa progi są osią całego projektu. Katalog zagrożeń jest wąski i obejmuje trzy kategorie: udział modelu w tworzeniu lub uwolnieniu broni biologicznej, umożliwienie lub przeprowadzenie zakrojonego na szeroką skalę ataku cybernetycznego oraz wymknięcie się modelu spod kontroli zabezpieczeń, które zbudował jego twórca. Zwykłe halucynacje, stronniczość czy słaba jakość odpowiedzi są poza zakresem projektu, i to jest wybór świadomy, nie przeoczenie.
Źródło: politico
Struktura instytucjonalna jest równie istotna jak progi, bo przesądza, kto realnie będzie decydował. Jak wynika z opisów projektu, jedynym kanałem egzekwowania ma być Departament Handlu. Niezależni oceniający, zarejestrowani w tym resorcie, mieliby okresowo badać firmy i ich modele, a jeśli stwierdzą bezpośrednie ryzyko z katalogu, mieliby 72 godziny na zgłoszenie tego do departamentu. Ten z kolei nie mógłby sam wyłączyć modelu, tylko wystąpić do sądu federalnego w Dystrykcie Kolumbii o nakaz wstrzymania wdrożenia. Każdy inny resort, agencja lub urzędnik byliby pozbawieni prawa samodzielnego zawieszenia modelu, co w praktyce zamyka drogę na przykład Federalnej Komisji Handlu czy Departamentowi Sprawiedliwości. Projekt zawiera też przepisy o federalnym pierwszeństwie nad częścią stanowych regulacji bezpieczeństwa sztucznej inteligencji, co jest ceną, jaką Anthropic płaci za jednolity rynek.
Drugi nowy element to kontrast z tym, co robi Kongres, i on najlepiej pokazuje, dlaczego firma w ogóle pisze ustawę. Jak podał portal Law Commentary 16 października, 29 września demokratyczni senatorowie Mark Warner, Brian Schatz i Andy Kim przedstawili ustawę o zarządzaniu ryzykiem i bezpieczeństwie sztucznej inteligencji, oznaczoną jako S. 5576, która tworzyłaby federalną radę bezpieczeństwa sztucznej inteligencji i nakładała wymogi testowania przed publikacją. Warner próbował przeprowadzić ją przez Senat w trybie jednomyślności, ale senator Ted Cruz zgłosił sprzeciw, i projekt leży w komisji handlu. Wniosek jest prosty: w Kongresie nie ma dziś większości dla żadnego modelu regulacji, więc firma, która chce przewidywalności, sama dostarcza tekst, licząc na to, że jej wersja będzie podstawą przyszłej ustawy.
Trzeci element to egzekwowanie, które nie czeka na Kongres i rozgrywa się w dwóch równoległych torach. Jak podała agencja Axios 15 października, a następnie Reuters i CBS News, Federalna Komisja Handlu wysłała cywilne wezwania do Anthropic i OpenAI, żądając dokumentów o incydentach bezpieczeństwa i potencjalnych naruszeniach praw konsumentów. Cztery dni wcześniej, 14 października, osiem stanów, w tym Iowa, Kansas i Arizona, złożyło w swoich sądach pozwy przeciwko OpenAI, twierdząc, że ChatGPT jest niebezpieczny dla dzieci i że firma nie dołożyła należytej staranności w zakresie zabezpieczeń. Prokurator generalny Kansas Kris Kobach powiedział, że stany nie będą czekać z wstrzymanym oddechem na federalne ustawodawstwo. To zdanie jest kluczem do zrozumienia amerykańskiego systemu: dopóki Kongres nie działa, regulatorem stają się prokuratorzy stanowi i komisja handlu, a firmy dostają dwadzieścia różnych reżimów zamiast jednego.
Źródło: axios, reuters, cbs-news
Czwarty element dotyczy konkurencji i jest najlepiej widoczny nie w komunikatach, ale w tym, co ludzie czytają. Jak wynika z rankingu portalu Hacker News w niedzielę rano, wydany 17 października model DeepSeek w wersji cztery przecinek jeden Flash utrzymywał pierwsze miejsce w serwisie z 751 punktami i 607 komentarzami, dziewiętnaście godzin po publikacji. To nie jest miara jakości modelu, ale jest miara realnego zainteresowania środowiska technicznego, a w przypadku modeli otwartych to zainteresowanie przekłada się na wdrożenia. W połączeniu z chińskim projektem kontroli eksportu wag modeli i z tajwańską kryminalizacją wysyłki chipów otrzymujemy obraz trzech sił działających jednocześnie: chińskie laboratoria wypuszczają modele, chiński rząd chce kontrolować ich wagi, a Tajwan i Stany Zjednoczone chcą kontrolować sprzęt. Rywalizacja przenosi się z pytania, kto ma lepszy model, na pytanie, kto ma prawo ten model posiadać.
Źródło: hacker-news
Piąty element jest finansowy i wraca jak refren, bo wyznacza horyzont całej branży. Pierwsza oferta publiczna Anthropica jest przesunięta na listopad, co opisywałem już w wydaniu z 14 października i w wydaniu porannym z 17 października, godzina 06:11 czasu polskiego. Nowe jest tylko to, że równolegle firma zabiega o ustawę, która dałaby jej przewidywalność przed debiutem, i że w tym samym tygodniu dostała wezwanie od komisji handlu. To zestawienie tłumaczy, dlaczego projekt ustawy jest zarazem strategią polityczną i strategią inwestorską.
Wiara w ten blok wymaga czterech rozróżnień. Projekt Anthropica nie został złożony w Kongresie, więc jest dokumentem lobbingowym, nie aktem prawnym; jego treść znamy z relacji Politico opartej na trzech anonimowych źródłach, potwierdzonej ogólnie przez rzecznika firmy, ale bez publikacji tekstu. Progi miliarda dolarów i 50 ofiar są podawane spójnie przez kilka redakcji, co zwiększa wiarygodność, ale nadal pochodzą z opisów, nie z lektury projektu. Wezwania komisji handlu są faktem potwierdzonym przez trzy niezależne redakcje, ale ich zakres znamy tylko częściowo, bo komisja nie publikuje wezwań. Pozwy ośmiu stanów są dokumentami sądowymi, więc warstwa faktyczna jest tu najmocniejsza. I wreszcie liczby o zasięgu DeepSeeka na Hacker News to stan z jednego rankingu, który zmienia się w ciągu godzin, a nie pomiar udziału w rynku.
Źródło: politico, hacker-news