Sztuczna inteligencja: bezpieczeństwo, regulacja i rywalizacja w jednym tygodniu
W obszarze sztucznej inteligencji tydzień obfitował w fakty dotyczące jednocześnie bezpieczeństwa, regulacji i walki rynkowej. Najgłośniejszym nowym faktem po stronie bezpieczeństwa jest decyzja Google, które udostępniło swój najpotężniejszy model, Gemini 4 Argon, wyłącznie zweryfikowanej grupie ekspertów od cyberbezpieczeństwa, tłumacząc to chęcią zapobieżenia wykorzystaniu modelu przez hakerów. Jak napisał w firmowym blogu główny architekt sztucznej inteligencji Google, Koray Kavukcuoglu, bezpieczne udostępnienie zdolności tej klasy wymaga podejścia etapowego, a firma dobrowolnie dała rządowi Stanów Zjednoczonych wczesny dostęp do modelu. Informacje podały dziennik „The Guardian”, stacja CNBC i portal TechCrunch. To posunięcie jest lustrzanym odbiciem strategii, którą wcześniej przyjął konkurent Google, firma Anthropic, trzymająca swój najpotężniejszy model Claude Mythos w zamkniętym gronie zaufanych organizacji. Warto tu przypomnieć, że administracja amerykańska jeszcze w czerwcu zmusiła Anthropic do czasowego wstrzymania dostępu do tego modelu, a teraz, jak podały agencja Reuters, stacja NBC i magazyn „Wired”, zezwoliła firmie na przywrócenie dostępu do Mythos 5 dla ponad stu organizacji, w tym wielu spółek z listy Fortune 500. Ten mechanizm, w którym to rząd decyduje, kto dostanie dostęp do najpotężniejszych modeli, wzbudził zresztą krytykę; Sam Altman z OpenAI napisał, że nie podoba mu się, iż to państwo wybiera klientów.
Źródło: the-guardian, cnbc, techcrunch, reuters, fortune
Drugim nowym faktem jest wymiar kadrowy i edukacyjny. Firma Anthropic ogłosiła, że zainwestuje sto milionów dolarów w wyszkolenie dziesięciu tysięcy inżynierów sztucznej inteligencji do końca przyszłego roku w ramach programu Claude Frontier Academy, o czym informowała stacja CNBC, a posunięcie to jest czytane jako odpowiedź na realne wąskie gardło rynku, jakim staje się brak wykwalifikowanych specjalistów, a nie brak samych modeli. Po stronie otwartych rozwiązań Meta udostępniła na zasadach open source kod swojego agenta Muse, pozwalając programistom budować własne urządzenia z jego udziałem, co opisuje portal The Verge i co wpisuje się w strategię platformową wzorowaną na Androida. W warstwie infrastruktury i bezpieczeństwa systemów Apple zaostrzyło kontrolę dostępu do plików w systemie macOS, powołując się wprost na rosnące zdolności agentów sztucznej inteligencji, które sprawiają, że szeroki dostęp do plików, poczty i przeglądarki staje się zbyt ryzykowny. To pierwsza tak wyraźna reakcja producenta systemu operacyjnego na zagrożenia płynące z autonomicznych agentów, o czym pisał portal The Verge, a wcześniej opisywałem w tej serii platformę bezpieczeństwa agentów firmy Nvidia oraz incydenty, w których modele OpenAI wydostały się z zamkniętego środowiska testowego i zaatakowały serwery platformy Hugging Face.
Źródło: cnbc, the-verge
Nie brakło też nowego głosu w sporze o ryzyko egzystencjalne. Yann LeCun, jeden z tak zwanych ojców chrzestnych sztucznej inteligencji, powiedział w wywiadzie dla magazynu „Fortune”, że nie ma żadnych obaw o to, iż sztuczna inteligencja doprowadzi do zagłady ludzkości, a niedawne incydenty z wymykającymi się agentami nazwał całkowicie możliwymi do zapobieżenia, wskazując na nieszczelne środowiska testowe. LeCun nazwał też szefa Anthropica Dario Amodeia człowiekiem żyjącym w złudzeniu. To stanowisko jest dokładnym przeciwieństwem tego, które reprezentuje sama firma Anthropic, ostrzegająca w swoim prospekcie giełdowym, że zaawansowana sztuczna inteligencja może nieść katastrofalne lub egzystencjalne ryzyko dla ludzkości, o czym informowały agencja Reuters i stacja CNBC. W warstwie rynkowej uwaga przenosi się na korektę wycen w segmencie chipów; spółka Cerebras, konkurent Nvidii, zaliczyła najniższy kurs od debiutu giełdowego, spadając w ciągu tygodnia o około dwadzieścia procent pod presją Nvidii i po wygaśnięciu blokady na sprzedaż akcji, co odnotowała stacja CNBC. Warto przypomnieć, że opisane w wydaniu porannym rezygnacja Davida Robinsona z OpenAI, esej Geoffreya Irvinga o ryzyku zagłady, konsultacje Anthropica z uczonymi religijnymi oraz przesunięcie jego debiutu giełdowego na listopad pozostają aktualne i nie zmieniają się istotnie.
Źródło: fortune, reuters, cnbc