Co się dzieje, gdy potężna AI trafia w niepowołane ręce?
Oto prawdziwa odpowiedź, a nie eksperyment myślowy. Microsoft twierdzi, że grupa powiązana z państwem chińskim użyła narzędzia do testów penetracyjnych opartego na AI, o nazwie ARTEX, żeby włamać się do dostawcy oprogramowania do kopii zapasowych, a potem tym zaufaniem wjechać na konta tysięcy jego klientów. Celem padło ponad 2250 środowisk Microsoft 365, przy około 2900 próbach logowania na minutę. W kilku przypadkach od pierwszego kontaktu do uprzywilejowanego dostępu minęły mniej niż trzy godziny.
Brzmi, jakby do tego trzeba było tajnego supermodelu. Trzeba?
Nie, i to jest w tym najgorsze. ARTEX to otwarty framework, który działa z dowolnym modelem AI, jaki do niego podepniesz. Nie trzeba budować systemu z czołówki. Wystarczy darmowe narzędzie, tani model i cel. Microsoft mówi, że to jeden z wielu ataków w fali włamań wspieranych AI, która trwa od początku października, a to samo narzędzie powiązano z atakami na banki w Korei.
Jedno uczciwe zastrzeżenie. Analitycy bezpieczeństwa sądzą, że to agent AI uruchamiający skryptowe narzędzia, z okazjonalną pomocą człowieka, a nie w pełni samodzielna maszyna, która włamuje się sama. Mimo to chodzi o tempo. Napastnicy pracują całą dobę i próbują wielu dróg naraz. Obrońcy dalej działają w ludzkim rytmie.
Cały ten chaos w jednym zdaniu: atak z prędkością maszyny, obrona z prędkością człowieka, a narzędzia za darmo.