Dziesięć procent szans na katastrofę brzmi jak niewiele. Oto dlaczego to nieprawda.
Gdzieś w tegorocznej debacie o bezpieczeństwie AI ktoś w końcu wrzucił konkretną liczbę. Coś w rodzaju jednej szansy na dziesięć, że ta technologia przyczyni się do naprawdę poważnej katastrofy w ciągu najbliższej dekady. Dziesięć procent. Czytane szybko, brzmi to nawet uspokajająco. Dziewięćdziesiąt procent, że będzie w porządku, prawda?
Chwila, dlaczego w ogóle mała liczba procentowa ma znaczenie, skoro dużo bardziej prawdopodobne jest, że nic się nie stanie?
Bo tej kostki nie rzucasz raz. Rzucasz nią za każdym razem, gdy ktoś z nieczystymi zamiarami siada i coś próbuje. A ludzie już próbują. Na początku tego roku jedno z czołowych laboratoriów AI opublikowało prosty raport z tego, co faktycznie przechwyciło w realnym świecie w ciągu mniej więcej ośmiu miesięcy. Nie scenariusze, prawdziwe próby.
- Ludzie proszący modele o pomoc przy badaniach nad bronią biologiczną.
- Próby planowania i wspierania cyberataków na dużą skalę.
- Operatorzy oprogramowania szpiegującego, próbujący zautomatyzować inwigilację na zlecenie.
- Sieci propagandowe próbujące skalować kampanie dezinformacyjne.
Każdą z tych prób złapano, zanim doszło do realnej szkody. To ta uspokajająca połowa. Niepokojąca jest ta druga, że wszystko to działo się naprawdę, nie w teorii, i zmieściło się w niecały rok.
I tu matematyka robi się brzydka
Nawet jeśli szansa, że pojedyncza próba naprawdę się powiedzie, jest absurdalnie mała, powiedzmy jeden na dziesięć tysięcy, to kiedy tego samego narzędzia próbują dotknąć miliony ludzi, ta drobna liczba przestaje zachowywać się jak dziwny wypadek, a zaczyna zachowywać się jak niemal pewność. To ta sama logika, dzięki której kasyno zarabia na dłuższą metę nawet przy śmiesznie małej przewadze, i ta sama logika, dzięki której kampania spamowa opłaca się wysłana do miliarda skrzynek, bo wystarczy, że kliknie ułamek procenta.
Więc liczba dziesięć procent nigdy nie była naprawdę tematem. Tematem jest skala. Im tańsze, sprawniejsze i bardziej dostępne stają się te narzędzia, tym więcej jest prób, a jedyne, co stoi między w miarę spokojnie a w końcu coś się przebije, to tempo, w jakim wykrywanie nadąża za liczbą osób, które próbują.