Co AI-owe laboratorium właśnie napisało inwestorom o samodoskonaleniu się AI?

Firma przed wejściem na giełdę przyznaje, że jej kolejne modele mogą zacząć przyspieszać rozwój samej AI, a ona może tego nie zauważyć na czas.

S-1 brzmi jak nazwa nudnego formularza i faktycznie nim jest. To dokument, który firma składa w amerykańskim urzędzie nadzoru rynku, zanim wejdzie na giełdę. Tyle że w tym jednym siedzi akapit, który nudny nie jest ani trochę.

Laboratorium pisze, że przyszłe modele mogą wkrótce przekroczyć granicę zapisaną w jego własnej polityce bezpieczeństwa. Chodzi o moment, w którym AI wyraźnie przyspiesza budowanie kolejnej AI. Branża nazywa to rekurencyjnym samodoskonaleniem i przez lata był to temat, o którym mówiło się półgłosem.

Co dokładnie tam stoi

Żaden obecny model tej granicy nie przekroczył, zapewniają, a dane nadal analizują. Dobrze. Ale potem przychodzi zdanie, od którego ludzie podnieśli głowy: firma przyznaje, że wcześniejsze przyspieszenia zauważała dopiero po fakcie.

No dobra, ale skoro widzisz to dopiero z opóźnieniem, skąd będziesz wiedzieć, że tym razem już się dzieje?

I właśnie tu dokument nie daje pełnej odpowiedzi. Mówi tylko, że firma rozważa zmiany w polityce, tak żeby ludzie zachowali kontrolę nad tym, jak powstają najnowsze modele. Nie spodziewa się też, że pozwoli modelowi budować swoich następców bez realnego nadzoru.

To obietnica, nie dowód. Ale złożona w papierze, w którym pomyłka kosztuje prawdziwe pieniądze, a to już zupełnie inna waga niż zdanie rzucone ze sceny.