Czy każdy lab AI musi być dziś firmą energetyczną?

Chipy i algorytmy są coraz oszczędniejsze. Skąd więc zakupy generatorów gazowych na gigawaty?

Logika podpowiada, że skoro chipy i algorytmy się poprawiają, to rachunek za prąd powinien maleć. Tak działa większość technologii. Telefony przyspieszyły, a baterię biorą coraz mniej. Kiedy więc jeden z czołowych labów AI podobno podpisał umowę na 1,7 gigawata generatorów gazowych za 3,4 miliarda dolarów, pierwsza myśl brzmi: chwila, po co mu tyle?

Co się właściwie stało? Lab przejął zamówienia na generatory, które teksańska firma energetyczna złożyła w Caterpillarze jakieś dwa lata temu. To największy znany zakup sprzętu energetycznego przez firmę od AI. A ponieważ kupił sprzęt wprost, zamiast wynajmować moc od partnera, to ryzyko wahań cen gazu spada teraz na niego.

Oszczędność nie zmniejsza zużycia. Ona się wydaje.

Za każdym razem, gdy model robi się tańszy w użyciu, ludzie wymagają od niego więcej, korzystają dłużej i uruchamiają więcej kopii naraz. Ekonomiści nazywają to paradoksem Jevonsa. Lepsze maszyny parowe też nie obniżyły zużycia węgla, tylko sprawiły, że wszyscy chcieli ich więcej.

Do tego trening to już nie cała historia. Coraz większa część prądu idzie na obsługę: miliony rozmów, agenci pracujący godzinami zamiast sekund i dodatkowe rundy uczenia przez wzmacnianie po głównym treningu. Kwartalny przychód jednego z labów podobno wzrósł w rok mniej więcej dwunastokrotnie, do prawie 17 miliardów dolarów. To pieniądze za realne korzystanie z produktu. A korzystanie kosztuje prąd.

Czyli ten zakup generatorów dowodzi, że model potrzebuje dziś dużo więcej energii niż dawniej? Niekoniecznie. To wygląda bardziej na wyprzedzanie w kolejce.

Na przyłącze do sieci czeka się latami, a na duże urządzenia gazowe są długie kolejki. Te generatory zamówiono, zanim ceny poszły w górę, i dotrą w ciągu dwóch lat. Kupuje się więc nie tylko moc, ale i czas. Szybki dostęp do prądu jest dziś ważniejszy niż jego cena.

Czy każdy lab musi więc zostać firmą energetyczną? Nie. Ale firma ze zobowiązaniami rzędu setek miliardów dolarów, prawie w całości na moc obliczeniową i infrastrukturę, jak wynika z jej najnowszego dokumentu giełdowego, nie może czekać na sieć. Prąd to jedyny składnik, którego nie da się zastąpić czymś tańszym. Sprzedaż sprzętu energetycznego Caterpillara urosła w ostatnim kwartale o 30 procent, głównie dzięki centrom danych. Wyścig AI po cichu zmienił się w wyścig po turbiny.