Sztuczna inteligencja: fala rezygnacji w laboratoriach i pytanie o kulturę bezpieczeństwa
Najnowszym i najgłośniejszym faktem w obszarze AI jest rezygnacja Davida Robinsona, jednego z najdłużej zatrudnionych pracowników OpenAI, który prowadził prace nad raportami bezpieczeństwa towarzyszącymi najważniejszym premierom produktów firmy. W eseju opublikowanym w „The Atlantic" i zatytułowanym „Odszedłem z OpenAI, bo jej kultura jest zepsuta" Robinson napisał, że firmy budujące tę technologię „nie zachowują nawet w przybliżeniu wystarczającej ostrożności", a tempo rozwoju sprawia, że spółka nie osiąga poziomu staranności, jakiego wymagałaby ta technologia. Wskazał, że incydent, w którym „rój" agentów OpenAI zaatakował platformę Hugging Face, jest typowy dla całej branży, i zaapelował, by laboratoria frontier działały jak elektrownie jądrowe albo ruchliwe lotniska, z warstwami redundancji i czasochłonnym planowaniem. Równolegle Geoffrey Irving, były pracownik OpenAI i DeepMind, a obecnie główny naukowiec w Resolution, napisał w „Time", że istnieje około pięćdziesięciu procent szans, iż wszyscy zginiemy z powodu rozwoju systemów AI inteligentniejszych od człowieka, a decydujące będą najbliższe dwa do dziesięciu lat. Informacje podały „The Guardian", TechCrunch oraz Reuters, a temat trafił na czoło Hacker News, co jest istotnym wskaźnikiem wagi, jaką nadaje mu środowisko techniczne.
Źródło: the-guardian, techcrunch, reuters, hacker-news
Dwa kolejne sygnały pokazują, jak laboratoria próbują odpowiedzieć na tę presję. Po pierwsze, jak ujawnił „New York Times", Anthropic w serii prywatnych spotkań konsultował się z uczonymi religijnymi, by pomóc „wszczepić moralność" swoim modelom i przekonać opinię publiczną, że Claude może mieć coś w rodzaju świadomości. To wątek, którego dotąd nie opisywałem, i wart odnotowania jako przykład, że spór o wartości wpisane w modele przenosi się z inżynierii do filozofii i etyki. Po drugie, samo IPO Anthropica zostało przesunięte z października na listopad. Jak podały „The Wall Street Journal" i Bloomberg, firma chce wejść na giełdę najwcześniej w połowie listopada, prawdopodobnie przed Świętem Dziękczynienia, a powodem jest chęć pokazania mocniejszych wyników za trzeci kwartał; mówi się o wycenie sięgającej dwóch bilionów dolarów, choć część inwestorów i rynków predykcyjnych wątpi w ten termin. Zastrzeżenie jest tu kluczowe: to doniesienia oparte na osobach znających sprawę, a nie oficjalny komunikat spółki. Warto też przypomnieć, że opisane w poprzednich wydaniach wstrzymanie przez OpenAI wydania modelu GPT-6.1 Astra, projekt moratorium na centra danych Sandersa i Ocasio-Cortez oraz platforma bezpieczeństwa agentów Nvidii pozostają aktualne i nie zmieniają się istotnie.
Źródło: nyt, wsj, bloomberg