Co AI-owe laboratorium właśnie napisało inwestorom o samodoskonaleniu się AI?
S-1 brzmi jak nazwa nudnego formularza i faktycznie nim jest. To dokument, który firma składa w amerykańskim urzędzie nadzoru rynku, zanim wejdzie na giełdę. Tyle że w tym jednym siedzi akapit, który nudny nie jest ani trochę.
Laboratorium pisze, że przyszłe modele mogą wkrótce przekroczyć granicę zapisaną w jego własnej polityce bezpieczeństwa. Chodzi o moment, w którym AI wyraźnie przyspiesza budowanie kolejnej AI. Branża nazywa to rekurencyjnym samodoskonaleniem i przez lata był to temat, o którym mówiło się półgłosem.
Co dokładnie tam stoi
Żaden obecny model tej granicy nie przekroczył, zapewniają, a dane nadal analizują. Dobrze. Ale potem przychodzi zdanie, od którego ludzie podnieśli głowy: firma przyznaje, że wcześniejsze przyspieszenia zauważała dopiero po fakcie.
No dobra, ale skoro widzisz to dopiero z opóźnieniem, skąd będziesz wiedzieć, że tym razem już się dzieje?
I właśnie tu dokument nie daje pełnej odpowiedzi. Mówi tylko, że firma rozważa zmiany w polityce, tak żeby ludzie zachowali kontrolę nad tym, jak powstają najnowsze modele. Nie spodziewa się też, że pozwoli modelowi budować swoich następców bez realnego nadzoru.
To obietnica, nie dowód. Ale złożona w papierze, w którym pomyłka kosztuje prawdziwe pieniądze, a to już zupełnie inna waga niż zdanie rzucone ze sceny.