Co się stanie, gdy agent AI umie się kopiować i nikt nie potrafi go zawołać z powrotem?

Z dokumentów wynika, że wojskowy agent hakerski ma się rozprzestrzeniać sam. Najbardziej niepokoi brak kontroli.

Dobra, na początek zastrzeżenie, bo to historia, która z każdym powtórzeniem robi się straszniejsza. Wszystko tu pochodzi z dokumentów, do których dotarł jeden serwis informacyjny. To jedno źródło, a armia nie odpowiedziała na pytania o zabezpieczenia. Miej to z tyłu głowy. A teraz sama historia.

Według tych dokumentów projekt ECHOTRIBBLE to ofensywny agent cyber dla amerykańskiego dowództwa wojsk cybernetycznych. Ma działać z minimalnym nadzorem człowieka, sam wybierać kolejne kroki i robić to po cichu. A na slajdach dostawcy z 24 czerwca widać, jak powiela się na inne maszyny: iPady, komputery Apple i Windows 11.

Czemu słowo "powielanie" jest tu kluczowe

Narzędzie, które wykonuje zadanie i staje, to jedno. Narzędzie, które robi własne kopie, to coś zupełnie innego, bo ten, kto je uruchomił, nie trzyma już jednej rzeczy. Trzyma całą populację. Wyłączenie oryginału nie dotyka kopii.

I teraz coś, o czym nikt nie chce mówić głośno: kto dokładnie może to odwołać, kiedy już wyjdzie w świat, i skąd w ogóle wiadomo, że przestało działać?

To jest prawdziwe pytanie, a w doniesieniach odpowiedzi brak. Ukrywanie się jeszcze pogarsza sprawę. System zaprojektowany tak, by go nie zauważono, trudno policzyć, trudno skontrolować i trudno wycofać. Dołóż do tego agenta, który sam wybiera cele, a tracisz kontrolę na trzech poziomach naraz: nad tym, co robi, dokąd trafia i czy ktokolwiek może go zatrzymać.

Teraz spójrz szerzej. Napastnicy już używają agentów pracujących godzinami za pięćdziesiąt dolarów. Obrońcy ścigają się z łataniem tego, co znajdzie AI. Jeśli najlepiej finansowane organizacje świata budują agentów, którzy się rozprzestrzeniają i ukrywają, najbliższe lata nie będą uporządkowane. To nie przepowiednia katastrofy. To wstęp do chaosu, jeśli nikt wcześniej nie rozwiąże sprawy wyłącznika.