Czym jest Fireworks AI i dlaczego to włamanie ma znaczenie?
Najpierw, czym to w ogóle jest. Większość aplikacji z AI w środku nie uruchamia własnych modeli, tylko je wynajmuje. Firmy takie jak Fireworks siedzą pośrodku: aplikacja wysyła zapytanie przez ich API, a one uruchamiają model (bardzo często otwarty) na własnych kartach graficznych i pozwalają też dostroić go na prywatnych danych klienta. Korzysta z nich około 10 tysięcy firm, a ostatnio wyceniano je na mniej więcej 17,5 miliarda dolarów.
Teraz samo włamanie. W październikowym komunikacie firma napisała, że nieupoważniona osoba użyła wewnętrznych danych dostępowych, żeby odczytać ustawienia zadań ewaluacyjnych u ograniczonej liczby klientów, w tym zapisane sekrety, takie jak klucze. Na początku listopada klienci mieli się, według doniesień, dowiedzieć o osobnym wtargnięciu z 24 października, przez przejętego dostawcę chmury, które poszło dalej. Miało sięgnąć do rozliczeń, a u części kont także do sekretów, zbiorów danych klientów i niepełnych wag modeli. Ten szerszy zakres pochodzi z doniesień prasowych, więc warto go sprawdzić w oficjalnych komunikatach firmy.
Dlaczego miałoby cię to obchodzić?
Bo pośrednik trzyma klucze. Skradziony klucz do innej usługi to drzwi do tej usługi. A dla części klientów zbiory danych i wagi modeli to nie dodatek, tylko cały produkt.
Czy jedno takie włamanie może położyć cały biznes AI?
Nie. Jeden incydent tego nie zrobi. Ale spójrz na wzorzec: jedna firma od bezpieczeństwa naliczyła dziewięć platform dla twórców AI zhakowanych w jednym miesiącu, w październiku. Atakujący zauważyli, że tania droga do AI nie prowadzi przez sprytne modele, tylko przez rury i klucze, które je otaczają.
Skutek będzie nudny, ale prawdziwy. Klienci zaczną stawiać wyższe wymagania bezpieczeństwa, część odpłynie do większych dostawców, a dostawców AI zacznie się traktować jak każdego innego krytycznego kontrahenta. Mniej dramatu niż w upadku, więcej papierologii.