Co się stanie, gdy AI znajdzie 948 sposobów na roota w Linuksie?

Jedno uruchomienie, około 1,2 miliona dolarów i sterta zgłoszeń, które muszą teraz przeczytać opiekunowie jądra.

Zastanów się, ile zwykle kosztuje jedna porządna luka podnosząca uprawnienia w jądrze Linuksa. Tygodnie pracy dobrego badacza. Konkurs w rodzaju Pwn2Own płaci około 20 tysięcy dolarów za jeden działający exploit, a na innej imprezie nawet 70 tysięcy. A teraz liczba: 948.

4 listopada OpenAI ogłosiło, że autonomiczny pipeline, działający na nadchodzącym, jeszcze niewydanym modelu do cyberbezpieczeństwa, zwalidował i napisał łatki do 948 unikalnych luk lokalnej eskalacji uprawnień w jądrze Linuksa. Jedno uruchomienie, w połowie października. Koszt API: około 1,2 miliona dolarów.

Jak to działa: lejek

Wyobraź sobie lejek z pięcioma etapami. Agenci wywiadowczy wybierają z kodu liczącego ponad 40 milionów linii około pięciu tysięcy obszarów. Analitycy i filtry zaznaczają kandydatów, razem około 2300. Z nich 1724 udało się odtworzyć. Potem agenci exploitów budują działające ataki, testują je przy włączonych zabezpieczeniach takich jak KASLR i SMEP i szkicują łatki. Po zgrupowaniu duplikatów zostaje 948 unikalnych. Do tego 291 dowodów koncepcji wycieków informacji.

Zanim cokolwiek trafi do opiekunów jądra, człowiek sprawdza exploity, łatki i wagę każdej luki. A w próbce 166 exploitów zespół OpenAI i zewnętrzni eksperci od jądra zgodzili się, że dziesięć technik jest nowych.

Ok, ale skoro to takie tanie i dobre, to czy nie jest dokładnie tym, czego chcą źli?

Tak, i na tym polega cały pomysł

OpenAI porównuje koszt ze starymi nagrodami: przy dawnych stawkach 948 exploitów wartych byłoby od 18,9 do 66,3 miliona dolarów, czyli od szesnastu do pięćdziesięciu pięciu razy tyle, ile kosztował przebieg. To argument obrońcy. Ale to też arkusz kalkulacyjny napastnika. Ten sam pipeline uruchomiony przez kogoś innego nie przyszedłby z planem skoordynowanego ujawnienia. OpenAI mówi, że współpracuje z opiekunami jądra i partnerami od bezpieczeństwa, żeby te dziury zamknąć, zanim ktoś skopiuje metodę.

I tu wchodzi wąskie gardło, o którym mało kto mówi: ludzie po drugiej stronie. Znajdowanie błędów właśnie dramatycznie stanieje. Naprawianie ich, przeglądanie łatek i dowożenie ich na miliardy urządzeń nie.

Drobny druk

Każda liczba pochodzi od OpenAI. Nie ma jeszcze publicznej listy CVE ani commitów, z którą dałoby się je porównać. W samym raporcie są nawet dwie liczby exploitów: w jednym miejscu 1169 działających exploitów eskalacji, w podsumowaniu 948 unikalnych. A niewielka część, 3,1 procent, to błędna analiza modelu.

Traktuj więc to jako poważne twierdzenie, nie ustalony fakt. Jeśli się utrzyma, ciekawy wyścig nie toczy się między ludźmi a AI. Toczy się między AI, które znajduje błędy, a AI, które je naprawia, a pośrodku stoi bardzo mała grupa opiekunów.