Co tak naprawdę znaczy alignment i dlaczego laboratoria chcą zwolnić?

Alignment w wersji, którą laboratoria naprawdę stosują, to nie "zrób model milszy." To "nie pozwól systemowi, który z tygodnia na tydzień potrafi więcej, zrobić czegoś, czego nikt nie chciał, w skali, której nikt nie odkręci." Cała debata mieści się w tym jednym zdaniu.

Plan na stole nie jest zamrożeniem prac. To trzy ruchy, które mają zmienić tempo. Najpierw wpuścić ewaluatorów do środka laboratoriów, żeby niebezpieczne umiejętności łapać w momencie, gdy się pojawiają, a nie po pokazie dla prasy. Potem zmusić amerykański przemysł do wspólnej podłogi standardów, żeby jedno laboratorium nie mogło po prostu pędzić, podczas gdy reszta udaje odpowiedzialność. Na końcu spróbować rozciągnąć tę koordynację poza Stany, także na Chiny.

Zakład jest prosty i raczej ponury. Praca nad bezpieczeństwem jest wolniejsza niż praca nad mocą. Jeśli nikt nie ruszy tempa, druga zawsze dogoni pierwsza. Chodzi wyłącznie o kupienie miesięcy.

I tu jest kawałek, który się nie spina. Prywatna firma ustawiająca tempo przejścia całej cywilizacji przez transformacyjną sztuczną inteligencję nadal jest prywatną firmą. Nawet ludzie, którzy ten plan głoszą, przyznają, że to źle leży.

Nazywają to najmniej złym wariantem. Zatrzymasz prace, przegrywasz z tym, kto się nie zatrzyma. Pogonić bez hamulców i może nie będzie komu naprawiać tego, co powstanie. Więc oferta brzmi: zwolnijcie trochę, patrzcie dokładniej i liczcie, że dodatkowy czas starczy, żeby badania nad bezpieczeństwem w ogóle zdążyły wziąć oddech. Czy to roztropność, czy wygodny sposób, żeby zostać przy sterze rynku, to pytanie, które samo nie zniknie.