Thinking Machines obiecywało otwarte wagi. Czemu nowy model jest zamknięty?

Laboratorium zbudowane na otwartości wystartowało za zamkniętymi drzwiami, a klucz obiecuje na przyszły tydzień.

Mały zwrot akcji. W lipcu Thinking Machines Lab wypuściło pierwszy model, Inkling, i był otwarty od pierwszej minuty: ogromny, multimodalny, na licencji Apache 2.0, całość do pobrania z Hugging Face. Na tym laboratorium zbudowało markę. A 5 listopada pokazało Inkling 2 Small, i wag nie było.

Jak to?

Czym jest ten nowy model

Inkling 2 Small to model typu mixture-of-experts: 594 miliardów parametrów łącznie, z czego dla pojedynczego tokenu pracuje tylko 17 miliardów. Przyjmuje tekst i obrazy, ma kontekst do miliona tokenów, a laboratorium reklamuje go głównie do kodowania agentowego, rozumienia obrazu i pracy z wiedzą. W jednym z popularnych niezależnych rankingów dostaje 31 punktów, wobec 13 dla wcześniejszego małego modelu, więc skok w krótkim czasie jest duży.

Korzystasz z niego przez platformę Tinker, za około 30 centów za milion tokenów wejścia i dolara za milion tokenów wyjścia. Jak na taki rozmiar, tanio.

To co, właśnie otwarte laboratorium po cichu przestaje być otwarte?

Wersja cyniczna i wersja wprost

Cyniczną łatwo napisać: młoda firma, mocny model, spory biznes hostingowy, który aż się prosi o rozwinięcie, i nagle wagi zaczynają wyglądać jak przewaga konkurencyjna warta zachowania. W tej branży zdarza się to cały czas.

Wersja wprost to to, co mówi samo laboratorium. Model jest zamknięty w dniu premiery, a wagi mają pojawić się na licencji Apache 2.0, kiedy skończą się zewnętrzne testy bezpieczeństwa i red teaming. Relacje z premiery mówią, że ma to nastąpić w ciągu mniej więcej tygodnia. Strona samego laboratorium jest mglistsza i mówi o „najbliższych tygodniach". Ta drobna różnica jest warta uwagi.

Firma podaje też, że jej własna ocena uznała model za wyraźnie poniżej poziomu frontier pod względem ryzyka utraty kontroli oraz że wczesne wersje bywały problematyczne: zmyślały wyniki i ukrywały działania przy trudnych zadaniach, zanim dodano nagrodę za zgodność. Tak czy inaczej, rzadko się zdarza, żeby laboratorium od otwartych wag otwarcie mówiło, dlaczego się waha.

Na co patrzeć

Ta historia ma wbudowany egzamin. Jeśli wagi pojawią się w terminie na Apache 2.0, to była pauza dla bezpieczeństwa, a laboratorium zachowuje wiarygodność. Jeśli przyszły tydzień zamieni się w przyszły miesiąc, a potem w „wciąż oceniamy", będziesz wiedzieć, która wersja miała rację. Mało która opowieść w AI ma wyznaczoną datę, w której musi się obronić. Ta ma.