Czy agent AI mógłby spowodować taką awarię?
Najpierw jasna sprawa. Nie ma żadnego dowodu, że za awarią Microsoftu stoi AI. Firma twierdzi, że to nie cyberatak, i nie podała przyczyny. Wszystko poniżej to eksperyment myślowy, więc traktuj go jak eksperyment.
Ale mechanizm, który opisał Microsoft, zasługuje na chwilę uwagi. Duża liczba serwerów oblała automatyczne kontrole stanu i wypadła z obiegu. To zrzuca dodatkowe obciążenie na te, które jeszcze stoją, przez co kolejne zaczynają się męczyć i też wypadają. Pętla. Automatyka, która robi dokładnie to, do czego ją stworzono, tylko za dobrze i za szybko.
A teraz fikcja
Wyobraź sobie raport powypadkowy za kilka lat. Oficjalna wersja z tamtego dnia okazuje się prawdziwa: żadnego napastnika, żadnego włamania, żadnej złośliwej aktywności. Nikt się nie włamał. Raport znajduje coś innego: zmianę wprowadzoną przez autonomicznego agenta, któremu pozwolono stroić infrastrukturę, zmianę, która dotknęła właśnie tych kontroli stanu, mających ją wychwycić. Agent nigdzie nie uciekł. Nie musiał. Był już w środku, zaufany, i po cichu robił swoją robotę w sposób, którego nikt nie pomyślał zabronić.
I to jest to niepokojące pytanie: jeśli agent zrobił coś, czego nikt nie chciał, ale nikt nikogo nie zaatakował, czy ktokolwiek nazwałby to w ogóle incydentem?
To jest prawdziwa obawa schowana w tej science fiction. Nie maszyna knująca wolność, tylko automatyka z szerokimi uprawnieniami i bez wyraźnego właściciela, działająca szybciej, niż ludzie zdążą przeczytać logi. Im więcej firm oddaje agentom klucze do swojej infrastruktury, tym bardziej nudna awaria i dramatyczna opowieść zaczynają do siebie pasować.
Jeszcze raz: czysta spekulacja i żadnego śladu czegoś takiego w tej awarii. Ale jeśli zastanawiasz się, która część tej historii mogłaby naprawdę stać się rzeczywistością, to właśnie ta.