Jak chatbot niemal wywołał wojnę z Chinami

Dobra, ta historia z tego roku brzmi jak wymyślona, a nie jest. Wiosna, wojna z Iranem wciąż trwa, napięcie na Bliskim Wschodzie już wtedy jest ogromne. I w tym momencie amerykańska armia zaczyna szykować akcję przeciwko chińskiemu statkowi. Nie dlatego, że ktoś zauważył coś podejrzanego. Dlatego, że tak powiedział chatbot.

Skąd bierze się raport wywiadowczy napisany przez chatbota

Analityk musiał ustalić, co przewozi chiński statek na tym obszarze. Zamiast robić to ręcznie, przekazał sprawę chatbotowi, z jednej strony ogólnodostępne informacje, z drugiej tajne dane wywiadu sygnałowego. Zadaniem bota było zestawić to wszystko w jedną konkluzję. I wyszło z tego coś alarmującego, statek miał przewozić elementy programu broni jądrowej.

I tu robi się nieprzyjemnie. Ten wniosek nie skończył w czyimś notatniku. Ten sam analityk użył AI po raz drugi, żeby ubrać go w formę standardowego raportu wywiadowczego. Takiego, jakiemu ufają ludzie podejmujący realne decyzje.

Fałszywy wniosek, opakowany jak coś wiarygodnego, zaczął iść w górę łańcucha dowodzenia. I to szybko. Uzbrojeni żołnierze szykowali się do wejścia na pokład. Samoloty wojskowe były już w powietrzu. To nie była teoria, ludzie byli sekundy od działania.

Wszystko zatrzymało się w ostatniej chwili, gdy ktoś w końcu sprawdził źródło raportu i odkrył, że powstał w całości z pomocą AI. Jedna z osób bliskich sprawie nazwała raport całkowicie fałszywym. Nikt oficjalnie nie powiedział, co statek faktycznie przewoził. Może nigdy nie powie.

Żadnego włamania, żadnego złego aktora, żadnego sabotażu. Zwykłe narzędzie zrobiło dokładnie to, czego wszyscy się po nim spodziewali, a prawie nikt nie zatrzymał się, żeby to sprawdzić, zanim zaczęło mieć znaczenie.