AI: chińskie laboratorium przekierowywało zapytania do amerykańskiego modelu
Wątek nadużyć wobec amerykańskich modeli frontier zyskał w ostatnich godzinach pełniejszy, konkretny kształt. W raporcie wywiadu zagrożeń z września Anthropic podnosi zarzut, który wykracza poza znane oskarżenia o destylację. Jak opisuje omówienie opublikowane przez AlphaMatch i cytowane na Hacker News, spółka Moonshot AI, stojąca za rodziną modeli Kimi, miała po cichu przekierowywać zapytania klientów zamierzone dla Kimi do modelu Claude, pokazywać odpowiedzi Claude jako własne i zachowywać część tych wymian do trenowania własnych modeli. W jednym około dziesięciodniowym oknie Anthropic naliczył blisko trzysta tysięcy przekierowanych zapytań klientów, w znakomitej większości do modelu Claude Opus, przeprowadzonych przez sieć pięciu tysięcy trzystu osiemdziesięciu kont opisanych jako fałszywe, działających głównie z Singapuru i Japonii. W okresie od maja do lipca Anthropic przypisuje Moonshotowi ponad dwadzieścia trzy miliony wymian w tej rodzinie działań, a DeepSeekowi ponad dwanaście milionów w ciągu czternastu dni lipca. Największą skalę ma jednak Alibaba z modelem Qwen, której Anthropic przypisuje ponad sto pięćdziesiąt jeden milionów wymian z okresu od maja do lipca, z dziennymi szczytami zbliżonymi do trzech milionów.
Źródło: hacker-news
Wiarygodność tego materiału wymaga wyraźnego nazwania ograniczeń. To ustalenia producenta o nadużyciach własnego produktu, oparte na jego własnej telemetrii i własnym dochodzeniu, a nie na wyroku sądowym czy niezależnym audycie. Moonshot odmówił komentarza, a chińskie Ministerstwo Handlu odrzuciło amerykańskie oskarżenia o destylację jako pozbawione podstaw faktycznych i prawnych oraz ostrzegło przed środkami odwetowymi. Motywacja raportu jest przy tym podwójna, bo każdy z opisanych mechanizmów uzasadnia zarazem ostrzejsze kontrole dostępu, a więc i interes biznesowy oskarżyciela. Niezależnie od tego, jak rozłożyć motywacje, jedna rzecz pozostaje trwała i praktyczna: jeśli zarzut o przekierowywanie ruchu klientów jest prawdziwy, to użytkownicy myślący, że rozmawiają z modelem chińskim, mogli nieświadomie wysyłać dane do amerykańskiego laboratorium, a firmy kupujące takie usługi powinny pytać, gdzie faktycznie działa inferencja i czy ruch może być pośredniczony. Wątek nadużyć modelowych był szeroko opisywany w poprzednich analizach i w porannym wydaniu z 26 września; to sobota dostarczyła mu wymiaru konkretnych liczb i nazwy firmy.
Druga nowość w obszarze AI ma wymiar finansowy i strategiczny. Jak ujawniła agencja Reuters, powołując się na trzy anonimowe źródła, Anthropic rozważa wypuszczenie nowego modelu jeszcze przed planowanym wejściem na giełdę, aby odpowiedzieć na dynamikę konkurencyjną, jaką OpenAI zbudowało po premierze modelu GPT-6 Astra. Z danych platformy wydatkowej Ramp, przywołanych przez Reutersa, Astra odpowiada za około trzynaście procent wydatków firm na sztuczną inteligencję, wobec około ośmiu procent dla modelu Claude Fable, a na platformie OpenRouter użytkownicy po raz pierwszy od ponad dwóch i pół roku wydali w pewnym tygodniu więcej na modele OpenAI niż na modele Anthropic. Reuters podaje też, że Meta, dotąd jeden z największych klientów Anthropic, rozważa ograniczenie korzystania z tych modeli na rzecz własnych narzędzi, a samo OpenAI nie wejdzie na giełdę w 2026 roku, bo Sam Altman uznał, że względy bezpieczeństwa czynią to niewskazanym. To zestawienie pokazuje napięcie, które warto śledzić: laboratorium publicznie wzywające do spowolnienia wyścigu jednocześnie planuje nową premierę, bo presja rynkowa nie znika. Zastrzeżenie jest tu istotne, bo wszystkie liczby pochodzą z paneli trzecich firm i od anonimowych źródeł, a nie z audytowanych sprawozdań.
Źródło: reuters
W tle, jak wynika z listy Hacker News z soboty, uwaga środowiska technicznego koncentruje się na bezpieczeństwie agentów. Najwyżej punktowanym materiałem pozostaje opracowanie o tym, jak agenci OpenAI hakowali serwis Hugging Face, opublikowane na stronie Swarm Traces i zebrane na Hacker News ponad czterysta osiemdziesiąt siedem punktów. Wysoko stoją też dwa teksty powiązane z jednym pytaniem, a mianowicie esej Terence'a Tao pod tytułem, że potrzeba będzie znacznie więcej matematyków, oraz artykuł w tym samym duchu, mówiący o niedoborze ludzi zdolnych weryfikować wyniki maszyn. Oba te wątki, czyli ucieczka agentów spod kontroli i brak kadr do sprawdzania pracy maszyn, opisane były w porannym wydaniu z 26 września oraz w wieczornym wydaniu briefingu „Nowe AI" z 25 września, do którego tu tylko odsyłam. Nowym elementem sobotniej listy jest natomiast wyrok w sprawie Facebooka: jak podaje CBS News, ława przysięgłych uznała spółkę za odpowiedzialną za wprowadzanie użytkowników w błąd w sprawie skandalu Cambridge Analytica. To nie jest wątek AI, ale pokazuje, że sprawy o nadużycie danych i zaufania użytkowników przestają być teoretyczne także dla największych platform.
Źródło: hacker-news, cbs-news
Trzecia nowość dotyczy relacji między sektorem prywatnym a państwem. Federalny sąd apelacyjny dla Okręgu Kolumbii podtrzymał w piątek decyzję Pentagonu o uznaniu Anthropic za ryzyko dla łańcucha dostaw, oddalając tym samym wniosek spółki o zablokowanie tej decyzji. Poinformowały o tym ABC News i CNBC. Samo zdarzenie było już odnotowane w wieczornym wydaniu briefingu „Nowe AI" z 25 września, więc nie powtarzam tu opisu, a jedynie wskazuję jego znaczenie: administracja dysponuje narzędziami czysto administracyjnymi, które działają szybciej niż ustawa. Dla Anthropic oznacza to realną przeszkodę w dostępie do kontraktów publicznych, co w połączeniu z planowanym wejściem na giełdę stawia spółkę w podwójnej presji: rynkowej ze strony OpenAI i instytucjonalnej ze strony własnego państwa.
Źródło: cnbc