Sztuczna inteligencja: szef Microsoftu wzywa do traktowania modeli jako przejętych
W obszarze sztucznej inteligencji najgłośniejszym nowym wątkiem jest obszerny tekst, który opublikował w sobotę 10 października szef Microsoftu Satya Nadella. Jak relacjonował portal The Verge oraz portal Business Insider, Nadella napisał w długim wpisie w serwisie X, że nie możemy dłużej akceptować świata, w którym sztuczna inteligencja jest traktowana jako zestaw zagnieżdżonych czarnych skrzynek, których rady i działania przyjmujemy albo odrzucamy w ciemno. Wezwał do budowy bardziej przejrzystego systemu, w którym modele można powstrzymywać i obserwować, a ich działanie pozostawia niemożliwy do podrobienia, czytelny dla człowieka ślad. Jego zdaniem każdy zaawansowany model należy od początku traktować jako potencjalnie przejęty i zawczasu go izolować, co porównał do hamulca bezpieczeństwa. Upoważniona osoba powinna zawsze móc wstrzymać lub wyłączyć model w połowie zadania, a bardziej zaawansowane modele będą wymagały bardziej zaawansowanych technologii izolacji, które trzeba ustandaryzować. Jego postulaty obejmują też szybkie ujawnianie incydentów, niezależne audyty, weryfikowalne dane i izolację.
Źródło: the-verge
Znaczenie tego tekstu polega na tym, że po raz pierwszy tak wyraźnie do grona liderów wzywających do ostrożności dołącza szef jednej z największych firm technologicznych świata, a nie wyłącznie przedstawiciel laboratorium badawczego. Warto przypomnieć, że wcześniejsze wezwania do spowolnienia wyścigu pochodziły od szefa Anthropic Dario Amodeia, który 12 września opublikował esej zatytułowany, że musimy zwolnić tempo na froncie, oraz od szefa OpenAI Sama Altmana, który tego samego dnia odłożył debiut giełdowy spółki, powołując się na względy bezpieczeństwa. Te dwa wydarzenia są starsze i opisywałem je wcześniej, więc traktuję je tu jako tło. Nowością jest natomiast to, że Nadella otwarcie przejmuje termin superinteligencja, którego używa w całym swoim wpisie. To ten sam termin, który administracja amerykańska narzuciła swoim agencjom w rozporządzeniu wykonawczym numer 14434 z 29 września, o czym pisałem w wydaniu poprzednim. Wprowadzanie tego słowa do języka największych firm pokazuje, jak szybko decyzja polityczna przekłada się na komunikację korporacyjną.
W warstwie rynku kapitałowego obraz pozostaje ostrożny, a nowy jest jeden akcent. Jak podał portal Yahoo Finance, Nvidia zobowiązała się do bezpośrednich inwestycji kapitałowych o wartości około siedemdziesięciu miliardów dolarów, w tym trzydziestu miliardów w OpenAI, do dziesięciu miliardów w Anthropic i pięciu miliardów w Safe Superintelligence. Prezes Nvidii Jensen Huang zasugerował, że te najnowsze zakłady mogą być ostatnimi tak dużymi inwestycjami spółki na tak wczesnym etapie. To uzupełnienie obrazu, który opisałem w wydaniu poprzednim, gdzie odnotowałem wycofanie się australijskiej spółki Firmus z debiutu giełdowego, starania SoftBanku o fundusz na sto miliardów dolarów oraz szacunki Morgan Stanley o potrzebie nawet półtora biliona dolarów finansowania zewnętrznego dla infrastruktury do 2028 roku. Zestawienie tych faktów pokazuje, że pieniądze nadal płyną szerokim strumieniem, ale pojawia się przy nich pytanie o zwrot, którego wcześniej nie zadawano tak otwarcie.
Źródło: yahoo-finance
Do tego samego obrazu należą dwa uzupełnienia regulacyjne. Unijny akt o sztucznej inteligencji, który wszedł w życie w sierpniu 2024 roku i stał się w większości stosowany 2 sierpnia 2026 roku, nakłada obowiązki między innymi na dostawców modeli ogólnego przeznaczenia, o czym informuje oficjalny portal Komisji Europejskiej oraz specjalistyczny serwis artificialintelligenceact.eu. To tło pokazuje, że Europa buduje własny, wiążący reżim nadzoru równolegle do amerykańskiej samoregulacji. Drugim uzupełnieniem jest to, że firma Microsoft udostępniła 10 października wersję pierwszą platformy Execution Containers, czyli narzędzia do izolowania agentów sztucznej inteligencji, o której to koncepcji pisałem w wydaniu poprzednim. Narzędzie, o którym wówczas mówiono jako o zapowiedzi, jest już dostępne, co pokazuje, że postulaty Nadelli mają także wymiar produktowy, a nie wyłącznie deklaratywny.