Bezpieczeństwo staje się czarnym rynkiem: dostęp do modeli z rabatem do dziewięćdziesięciu siedmiu procent
Trzecia warstwa tego samego problemu jest finansowa i pojawiła się w piątek. Financial Times opisał, powołując się na Google Threat Intelligence Group, gwałtowny wzrost ataków określanych jako LLM-jacking, czyli przejmowanie kont i serwerów wykorzystywanych do wywołań modeli. Na czarnym rynku pojawiły się marketplace'y sprzedające dostęp do modeli Anthropica, Google i OpenAI z rabatem sięgającym dziewięćdziesięciu siedmiu procent, a John Hultquist, główny analityk jednostki wywiadu zagrożeń Google'a, potwierdza, że zjawisko wyraźnie przyspieszyło. Mechanizm jest prosty i przenosi koszt na ofiarę: napastnik płaci ułamek ceny, a rachunek za zużycie tokenów trafia do przejętego konta albo do firmy, której klucz wyciekł.
Źródło: financial-times
Krytycznie trzeba zaznaczyć, że to materiał wywiadowczy jednego dostawcy, a skala zjawiska opisana jest jakościowo, nie liczbami bezwzględnymi, więc nie da się z niego wyprowadzić wielkości rynku. Znaczenie jest jednak większe niż pojedyncza afera bezpieczeństwa, bo dotyka samej podstawy cennika modeli: jeśli to samo wywołanie można kupić na czarnym rynku za trzy procent ceny katalogowej, to marża dostawcy w segmencie najdroższych modeli zależy nie tylko od konkurencji między laboratoriami, ale i od tego, jak szczelnie działa kontrola kont i kluczy. Dla firm, które rozliczają agentów zużyciowo, jest to bezpośrednie ryzyko budżetowe, a nie tylko cyberbezpieczeństwa (Financial Times, 26.09).
Źródło: financial-times