Dlaczego danie AI kilku narzedzi tak bardzo zmienia kwestie bezpieczenstwa?

Wyobraz sobie roznice miedzy kims, kto wskaze ci droge, a kims, kto trzyma kluczyki do auta. Chatbot, ktory tylko pisze tekst, moze sie mylic, nawet z pelnym przekonaniem, a najgorsze co ci grozi to przeczytanie glupoty. Daj temu samemu modelowi narzedzie, ktore wysyla maile, przelewa pieniadze albo uruchamia komendy, i pomylka przestaje byc slowami na ekranie.

Przeskok jest z porady na dzialanie

Kiedy model moze dzialac, drobne bledy sie kumuluja. Robi krok, widzi wynik, robi kolejny. Jesli pierwszy krok byl lekko obok, piaty potrafi wyladowac tam, gdzie nikt nie planowal. I dzieje sie to szybko, bez czlowieka, ktory zatrzyma sie przy kazdym ruchu.

To po co w ogole dawac im narzedzia, skoro wlasnie tamtedy wchodzi ryzyko?

Bo wlasnie tam mieszka niemal cala uzytecznosc. Asystent, ktory naprawde zarezerwuje, zaloszy zgloszenie albo naprawi blad, jest wart duzo wiecej niz taki, ktory jedynie opowie jak to zrobic. Sztuka nie polega na chowaniu narzedzi pod klucz. Polega na tym, zeby te najmocniejsze pytaly, zanim skocza.