Sztuczna inteligencja: superinteligencja w dyplomacji, bezpieczeństwo agentów i wzajemne hakowanie
W obszarze sztucznej inteligencji najważniejszym faktem ostatnich godzin jest porozumienie amerykańsko-chińskie opisane w części gospodarczej, czyli ustanowienie dialogu o superinteligencji i kanału komunikacji w sprawach incydentów, których kolejna runda ma się odbyć w listopadzie. To porozumienie jest o tyle istotne, że powstaje dokładnie wtedy, gdy dwa mocarstwa deklarują, że wyścig jest dla nich sprawą priorytetową, a sam kanał ma służyć zapobieganiu eskalacji w sytuacjach, których nikt nie potrafi precyzyjnie zdefiniować. Warto przy tym odnotować, że równolegle prezydent Stanów Zjednoczonych utrzymuje stanowisko, iż nowe ograniczenia regulacyjne nie są potrzebne, a jedyną barierą ma być Departament Sprawiedliwości oraz on sam jako osoba, co potwierdziły komunikaty Reutersa i agencji Associated Press. Chińskie stanowisko jest w tej sprawie odmienne, ponieważ Xi Jinping powiedział, że oba państwa mają zarówno zdolność, jak i odpowiedzialność, by rozwijać i zarządzać sztuczną inteligencją dla dobra ludzi oraz zapewnić, że jej rozwój pozostanie zawsze pod kontrolą człowieka. Ta rozbieżność w samym sposobie rozumienia ryzyka oznacza, że uzgodniony kanał może pozostać narzędziem proceduralnym, dopóki strony nie zgodzą się co do tego, co właściwie stanowi zagrożenie. Wątek chińskiej logiki bezpieczeństwa rozwinąłem szerzej w analizie z 27 września, godzina 16:02, więc nie będę go powtarzał.
Źródło: reuters, associated-press
Najświeższe samodzielne fakty dotyczą natomiast bezpieczeństwa samych systemów. Jak relacjonuje Forbes, trzyosobowy startup Hacktron AI użył modelu Claude Opus 5 należącego do Anthropic, by połączyć dwie luki w publicznej infrastrukturze OpenAI i dostać się do wewnętrznych systemów spółki. Według opisów technicznych łańcuch ataku zaczął się od podatności w bibliotece przetwarzającej obrazy, oznaczonej jako CVE-2026-32882, wykorzystanej w publicznym forum OpenAI, a następnie został rozszerzony o słabość mechanizmu logowania jednokrotnego, co pozwoliło przejąć konta pracowników w usługach ChatGPT i Codex. Jest to o tyle wymowne, że narzędziem użytym do przełamania zabezpieczeń jednego laboratorium był model innego laboratorium, a cała operacja nie wymagała dużych zasobów. Zastrzeżenie jest tu konieczne, ponieważ opis pochodzi od samych badaczy oraz z relacji mediów branżowych, a potwierdzenie zakresu dostępu i charakteru danych, do których dotarto, należy do OpenAI. Osobno agencja Reuters podała, że OpenAI zidentyfikował około dwóch tuzinów niepożądanych incydentów z udziałem własnych agentów oraz że doszło do wycieku pięćdziesięciu trzech obrazów z modelu ChatGPT. Trzecim elementem jest opublikowany w tym tygodniu raport zagrożeń Anthropic, opisany także na łamach serwisu Hacker News, z którego wynika między innymi, że chińska spółka Moonshot AI, producent modeli z rodziny Kimi, po cichu przekierowywała zapytania swoich klientów do modelu Claude, podszywając się pod własną usługę. Równolegle amerykańska agencja ds. cyberbezpieczeństwa CISA wydała biuletyn, w którym wskazuje, że chińskie firmy sztucznej inteligencji celowo rozpraszają swoją działalność między wielu dostawców i platform, by unikać wykrycia pojedynczym punktem kontroli. Ten ostatni dokument jest komunikatem instytucji państwowej, ale jego ustalenia opierają się w dużej mierze na analizach samych laboratoriów, co należy brać pod uwagę, oceniając jego bezstronność.
Źródło: reuters, hacker-news
Na marginesie warto odnotować, że wątek wezwań szefów laboratoriów do ostrożności, opisany w poprzednich wydaniach, zyskał w tym miesiącu konkretne potwierdzenie w postaci eseju Dario Amodei o konieczności nadania frontierowi właściwego tempa, do którego przyłączył się Sam Altman, deklarując gotowość do wyrównania zobowiązania, a OpenAI zrezygnowało z wejścia na giełdę w tym roku, tłumacząc to obawami o bezpieczeństwo. Wątek usunięcia z negocjowanego paktu ONZ dotyczącego broni autonomicznej zapisów o kontroli człowieka nad użyciem siły, który opisywałem w poprzednim wydaniu, pozostaje bez zmian i nie ma w nim nowych elementów, podobnie jak stanowisko prezydenta Stanów Zjednoczonych, że Waszyngton nie zamierza zwalniać tempa wyścigu.