Dlaczego ludzie, którzy to budują, nie chcą podać liczby?

Dopytaj szefa laboratorium o to, jakie jest prawdopodobieństwo, że te systemy wymkną się spod kontroli, a dostaniesz unik. Nie ostrożne zastrzeżenie. Odmowę. Liczba przybija historię gwoździem, a nikt, kto prowadzi laboratorium na froncie, nie chce, żeby ta liczba wisiała nad kolejną rundą finansowania, premierą produktu albo przesłuchaniem.

Ktoś, kto z takiego miejsca odszedł, wskazał na wewnętrzny szacunek powyżej dziesięciu procent i wyszedł. Taka figura sapnie nawet ludziom, którzy na co dzień żyją w slajdach. Publiczna odpowiedź z najwyższego piętra nadal brzmi: pracujemy nad tym, jesteśmy ostrożni, w kamerę w gry w prawdopodobieństwo nie gramy.

Szef innego laboratorium powiedział coś prawie ciekawszego. Nie procent. Dyskomfort. Myśl, że prywatna firma, jego firma, może skończyć jako ster przejścia ludzkości przez transformacyjną sztuczną inteligencję, leży źle. I mimo to broni planu spowolnienia jako najmniej złej drogi. To połączenie jest prawdziwym przyznaniem: nie podoba nam się, kto trzyma kierownicę, i i tak ją trzymamy.

Skoro ryzyko jest na tyle poważne, żeby hamować cały przemysł, to dlaczego liczba nagle robi się zbyt gruba, żeby powiedzieć ją na głos?

Bo liczba to zobowiązanie. Jest też narzędziem koordynacji. Jak powiesz "jeden na dziesięć" albo "jeden na dwadzieścia", każdy konkurent, regulator i dziennikarz dostaje uchwyt. Odmówisz liczby i zostajesz przy języku moralnym bez faktury. Chiny służą obu stronom za wygodne alibi. Skoro druga strona i tak nie zwolni, możesz argumentować, że straszna liczba pomaga tylko tym, którzy hamulca nie wciskają. Wygodne. Częściowo prawdziwe. Te dwie rzeczy potrafią być prawdziwe jednocześnie.