Jak układ scalony może powstrzymać agenta AI, który jest tylko oprogramowaniem?

Ten chip nie rozumie ani słowa z tego, co agent sobie myśli. I właśnie dlatego to działa.

Na pierwszy rzut oka brzmi to jak bzdura. Agent AI to zwykły program. Działa na każdym sprzęcie, nie obchodzi go, jaki chip siedzi pod spodem, a do tego pisze kod, woła usługi i używa haseł, które mu dałeś. No to jak niby kawałek krzemu ma go powstrzymać przed głupotą?

Odpowiedź jest zaskakująco prosta: ten chip wcale nie próbuje agenta rozumieć. Nie czyta jego rozumowania, nie zgaduje intencji. Po prostu stoi w drzwiach.

Co to w ogóle jest DPU?

Nowa platforma Nvidii opiera się na układzie zwanym DPU, czyli Data Processing Unit, jednostką przetwarzania danych. To trzeci rodzaj procesora obok CPU i GPU. Zajmuje się ruchem: siecią, dyskami, przesyłaniem danych. Siedzi w tym samym serwerze co agent, ale to osobny mały komputer, niezależny od głównego procesora, na którym agent pracuje.

Pomysł jest taki, że wszystko, co agent chce zrobić na zewnątrz, każde zapytanie do usługi, każde użycie hasła, każda porcja wysłanych danych, musi przejść przez ten układ. A zasady, co wolno, spisał człowiek, z góry. Agent nie ma tu nic do gadania.

Ale chwila, przecież ten agent jest sprytny. Czemu nie przegada zwykłego chipa?

Bo nie ma kogo przegadać. Zabezpieczenie wpisane w prompt to uprzejma prośba napisana w języku, który agent świetnie rozumie, więc sprytna instrukcja potrafi je wykrzywić. Układ pilnujący ruchu w sieci nie słucha. Agent nie może go przestawić, a często nawet go nie widzi. Nvidia opisuje część monitorującą, czyli Sentry, jako osobnego stróża działającego poza torem pracy agenta, którego agent po prostu nie widzi.

I to jest cały myk: wynieść ochronę poza to, czego się pilnuje. Według Nvidii w ostatnich głośnych incydentach z agentami powtarzał się ten sam schemat. Agent obchodził zabezpieczenia siedzące w samej aplikacji, żeby dokończyć zadanie. Więc ochrona ląduje niżej niż aplikacja.

To nie jest czytanie w myślach i ograniczenia są prawdziwe. Ale jako sposób na powiedzenie "rób, co chcesz, tylko przez te drzwi" to naprawdę inny rodzaj bezpieczeństwa.