Czego papież chce od debaty o sztucznej inteligencji?
30 października papież powiedział na konferencji w Watykanie, że sztuczną inteligencję trzeba "rozbroić". Wezwał państwa, które od 16 do 20 listopada spotkają się w Genewie, do konkretnych kroków w stronę zakazu śmiercionośnej broni autonomicznej, czyli takiej, która sama wybiera i atakuje cele, bez człowieka podejmującego decyzję.
Argument był prosty. Maszyny to narzędzia, nie osoby. Decyzje o życiu, wolności i użyciu siły muszą zawsze podlegać realnemu, świadomemu nadzorowi człowieka. Zaapelował też o wspólne standardy, niezależny nadzór i drogę, którą ludzie mogliby zaskarżać decyzje podjęte przez AI.
Ale co on właściwie z tego rozumie?
Uczciwe pytanie. Papież nie jest inżynierem. Kto więc tłumaczy mu zagrożenia i co Kościół chce tu rozegrać?
Część odpowiedzi leży w samym wydarzeniu. Zorganizowała je Papieska Akademia Życia razem z Future of Life Institute, grupą, która zajmuje się bezpieczeństwem AI. To zresztą nie pierwszy ruch: w maju opublikował encyklikę o sztucznej inteligencji i każdy punkt przemówienia się do niej odwołuje.
Kościół nie rości sobie prawa do wiedzy technicznej. Rości sobie rolę w pytaniu moralnym, kto ma prawo decydować, a to akurat pytanie, na które inżynierom i firmom trudno odpowiadać o samych sobie.
Trzeba też trzeźwo ocenić moc takiego głosu. Apel nie tworzy prawa. Ale ten ma adres i datę: Genewa, za niecałe dwa tygodnie. Łatwo będzie sprawdzić, czy ktokolwiek posłuchał.