Czego papież chce od debaty o sztucznej inteligencji?

Mówi, że AI trzeba "rozbroić". Na dwa tygodnie przed spotkaniem ONZ w Genewie to wyjątkowo celne słowa.

30 października papież powiedział na konferencji w Watykanie, że sztuczną inteligencję trzeba "rozbroić". Wezwał państwa, które od 16 do 20 listopada spotkają się w Genewie, do konkretnych kroków w stronę zakazu śmiercionośnej broni autonomicznej, czyli takiej, która sama wybiera i atakuje cele, bez człowieka podejmującego decyzję.

Argument był prosty. Maszyny to narzędzia, nie osoby. Decyzje o życiu, wolności i użyciu siły muszą zawsze podlegać realnemu, świadomemu nadzorowi człowieka. Zaapelował też o wspólne standardy, niezależny nadzór i drogę, którą ludzie mogliby zaskarżać decyzje podjęte przez AI.

Ale co on właściwie z tego rozumie?

Uczciwe pytanie. Papież nie jest inżynierem. Kto więc tłumaczy mu zagrożenia i co Kościół chce tu rozegrać?

Część odpowiedzi leży w samym wydarzeniu. Zorganizowała je Papieska Akademia Życia razem z Future of Life Institute, grupą, która zajmuje się bezpieczeństwem AI. To zresztą nie pierwszy ruch: w maju opublikował encyklikę o sztucznej inteligencji i każdy punkt przemówienia się do niej odwołuje.

Kościół nie rości sobie prawa do wiedzy technicznej. Rości sobie rolę w pytaniu moralnym, kto ma prawo decydować, a to akurat pytanie, na które inżynierom i firmom trudno odpowiadać o samych sobie.

Trzeba też trzeźwo ocenić moc takiego głosu. Apel nie tworzy prawa. Ale ten ma adres i datę: Genewa, za niecałe dwa tygodnie. Łatwo będzie sprawdzić, czy ktokolwiek posłuchał.