Apokalipsa AI raczej nie będzie wyglądać jak bunt robotów

Kiedy ludzie wyobrażają sobie, że AI wymyka się spod kontroli, widzą wersję filmową. Maszyna się budzi, uznaje ludzi za problem, rusza po władzę. To ładny obraz. I, przynajmniej na razie, niemal na pewno błędny.

Wystarczy spojrzeć na faktyczne, udokumentowane przypadki szkód wyrządzonych przez AI w tym roku i nigdzie tam nie ma maszyny, która cokolwiek postanawia. Są zwykli ludzie. Kiedy jedno z laboratoriów AI opublikowało zestawienie przechwyconych nadużyć, winowajcy byli dokładnie tacy, jakich spodziewałbyś się po każdym innym incydencie bezpieczeństwa. Dostawcy oprogramowania szpiegującego. Osoby działające z pobudek politycznych. Grupy prowadzące kampanie propagandowe. Operatorzy powiązani z państwami. Ani jeden przypadek nie był sytuacją, w której AI działa na własną rękę. Za każdym razem to człowiek kierował bardzo zdolne, bardzo posłuszne narzędzie w stronę czegoś złego.

Skoro to tylko narzędzie robiące to, co mu każą, to dlaczego wydaje się dużo groźniejsze niż jakiekolwiek narzędzie wcześniej?

Bo to konkretne narzędzie zawala próg umiejętności potrzebnych do zrobienia krzywdy. Włamanie się do infrastruktury albo badanie czegoś naprawdę niebezpiecznego wymagało kiedyś lat specjalistycznej wiedzy, całego zespołu, poważnych zasobów. Jeśli zdolny model potrafi przeprowadzić jedną zdeterminowaną, wściekłą osobę przez większość tej drogi, nie potrzebujesz już zorganizowanej grupy z finansowaniem i planem. Wystarczy jedna osoba, która ma naprawdę zły dzień i laptopa.

Dziwny rodzaj problemu

To sprawia, że mamy do czynienia mniej z klasycznym problemem bezpieczeństwa AI, a bardziej ze staromodnym problemem kontroli dostępu w nowym przebraniu. Cały wysiłek włożony w to, żeby model był dobrze wychowany, niewiele daje, jeśli człowiek po prostu kieruje posłuszne narzędzie na cel i już wie, jak o to poprosić. Model nigdy nie był tym, który miał złe zamiary. Po prostu stał się dużo lepszy w pomaganiu temu, kto je miał.