Sztuczna inteligencja: giełdowe IPO w cieniu ostrzeżeń, hakerskie agenty i medyczny eksperyment w Utah
W obszarze sztucznej inteligencji największą nowością jest przyspieszenie przygotowań do debiutu giełdowego Anthropic. Jak podała CNN, firma może wejść na giełdę już w listopadzie i pozyskać nawet sto miliardów dolarów przy wycenie sięgającej dwóch bilionów dolarów, co uczyniłoby ją jedną z dziesięciu najcenniejszych spółek świata i przebiłoby rekordowe IPO SpaceX. Sprawa ma drugie dno, które dobrze ilustruje rozdźwięk między deklaracjami a interesem: jeszcze kilka tygodni temu szef firmy Dario Amodei publicznie wzywał branżę do spowolnienia tempa prac nad najpotężniejszymi modelami w eseju „We Must Pace the Frontier", a Reuters dotarł do projektu prospektu emisyjnego, w którym ostrzega się, że modele firmy mogą spowodować „katastrofalne lub egzystencjalne ryzyko dla ludzkości". Innymi słowy, ta sama firma, która mówi o ryzyku, idzie po kapitał, a rynek wycenia ją bardzo wysoko mimo niepewności. Warto to odnotować bez emocji, bo obie rzeczy mogą być prawdziwe jednocześnie: ostrzeżenie w prospekcie jest również zabezpieczeniem prawnym przed roszczeniami inwestorów. Z drugiej strony Sam Altman z OpenAI mówił cztery dni temu agencji Reuters, że korzyści z AI uzasadniają zaakceptowanie pewnego ryzyka i że technologia powinna pozostać szeroko dostępna, co jest wyraźnie inną strategią komunikacyjną niż ta Amodei. Kontrast między tymi dwoma stanowiskami, w połączeniu z faktem, że OpenAI przesunęło własne IPO na przyszły rok, a Anthropic brnie dalej, jest jednym z najciekawszych zjawisk tej jesieni w gospodarce technologicznej.
Źródło: cnn, reuters
Drugim nowym wątkiem, który ma bezpośredni wymiar bezpieczeństwa, są ataki hakerskie na południowokoreańskie banki z użyciem chińskiego narzędzia opartego na sztucznej inteligencji. Jak podał Wall Street Journal, a za nim Quartz, południowokoreańska policja prowadzi śledztwo w sprawie włamań do co najmniej siedmiu instytucji finansowych, w których wyniku wykradziono dane sześćdziesięciu ośmiu tysięcy osób. Narzędzie nazywa się Artex, zbudował je chiński inżynier bezpieczeństwa Li Puhua, znany pod pseudonimem Autumn, i udostępnił jako otwarte oprogramowanie; samo narzędzie nie jest modelem, lecz orchestruje zewnętrzne modele, między innymi Opus firmy Anthropic, GPT firmy OpenAI oraz chiński DeepSeek, i prowadzi rozpoznanie podatności oraz planowanie ataku w dużej mierze autonomicznie. Prezydent Lee Jae Myung powiedział, że istnieją przesłanki, iż modele AI zostały wykorzystane w tych włamaniach, i polecił natychmiastowe działania. Warto zachować ostrożność co do przypisania sprawców: ataki prowadzono z ponad dwudziestu adresów w około dwunastu krajach, a winnych nie zidentyfikowano. Niezależnie od tego jest to mocny sygnał ostrzegawczy, że agenty AI stają się narzędziem przestępczości na skalę przemysłową, co potwierdzają wcześniejsze w tym roku przypadki zorganizowanych kampanii wymierzonych w setki firm.
Źródło: wsj
Trzecim nowym faktem jest eksperyment medyczny w amerykańskim stanie Utah, który jest pierwszym takim przypadkiem w Stanach Zjednoczonych. Jak podał serwis TechSpot, powołując się na Bloomberga, roczny program pilotażowy pozwala autonomicznemu systemowi AI badać pacjentów i wystawiać recepty bez bezpośredniego nadzoru człowieka, na razie wyłącznie w łagodnych i umiarkowanych przypadkach trądziku. Aplikacja za niespełna pięć dolarów miesięcznie skanuje twarz pacjenta, ocenia stopień nasilenia zmian i dobiera lek z listy ośmiu zatwierdzonych preparatów. Na pierwszym etapie sto pierwszych recept ma jeszcze zatwierdzać lekarz, w drugim kolejne czterysta ma być realizowanych przez AI i weryfikowanych przez lekarza raz w tygodniu, a w trzecim lekarz sprawdzi co najmniej dziesięć procent recept raz w miesiącu. To przykład szerszego trendu, w którym regulacje stanowe wyprzedzają federalne, i warto o nim pamiętać w kontekście unijnego aktu o sztucznej inteligencji, którego obowiązywanie wobec modeli ogólnego przeznaczenia jest w toku, a w Stanach Zjednoczonych wciąż trwa spór o to, czy prawo federalne powinno wyprzedzać przepisy stanowe.
Źródło: bloomberg