Małe modele wygrywają kosztem: Claude Haiku 5.5
Do tego samego obrazu należy wynik, który pokazuje, jak bardzo opłaca się dziś mały model w zadaniach z wyszukiwaniem. Firma Parallel opublikowała ranking efektywności kosztowej, w którym Claude Haiku 5.5 zajął pierwsze miejsce, osiągając wynik sześćdziesięciu dwóch i dziewięciu dziesiątych punktu przy koszcie dwudziestu czterech dolarów i trzydziestu centów za tysiąc zadań. Czołowy model tej samej rodziny, Claude Opus 5.5, zdobył siedemdziesiąt pięć i cztery dziesiąte punktu, ale przy koszcie dziewięciuset czterdziestu dziewięciu dolarów za tysiąc zadań — a więc prawie czterdzieści razy drożej za różnicę niespełna trzynastu punktów. Jak podaje AlphaSignal, Haiku 5.5 kosztuje dziesięć centów za milion tokenów wejściowych i pięćdziesiąt za wyjściowe, a dużą część swojego wyniku zawdzięcza samemu wyszukiwaniu: bez dostępu do sieci spada do dwudziestu trzech i pięciu dziesiątych punktu. Zastrzeżenia są jednak istotne: ranking opiera się na zaledwie stu pytaniach i na własnym mechanizmie wyszukiwania firmy Parallel, więc przenoszenie go wprost na inne systemy bywa mylące.
Źródło: alphasignal