Czy Mistral Large 4 naprawdę jest za darmo?

Wagi dostaniesz za darmo. Sprzęt, żeby z nich korzystać, już nie.

Są dwie drogi. Pierwsza to płatne API. W trakcie podglądu kosztuje około 0,68 dolara za milion tokenów wejściowych i 2,09 dolara za milion wyjściowych, czyli to promocyjna połowa ceny. Docelowy cennik to 1,36 i 4,18 dolara.

Druga droga to ściągnięcie modelu. Mistral zapowiada otwarte wagi do końca października, a w obiegu krąży data 27 października. Zwróć uwagę na drobny druk: niestandardowa licencja, a nie przyjazna Apache. Przeczytaj ją, zanim oprzesz na tym firmę.

Skoro wagi są za darmo, to uruchomienie też, prawda?

Nawet w przybliżeniu. Przy około 1,05 biliona parametrów, nawet w skromnych 8 bitach, samo trzymanie wag w pamięci to mniej więcej terabajt, zanim obsłużysz choćby jednego użytkownika. To wyższa liga serwerów z wieloma GPU, a nie laptop ani zwykły komputer do gier.

Do tego niska cena za token potrafi zmylić. Według jednej niezależnej recenzji przekłada się ona tylko na przeciętny koszt jednego zadania. Tanio na etykiecie, zwyczajnie na fakturze.