Co się dzieje, gdy miliony ludzi pytają chatbota, na kogo głosować?

W przeddzień amerykańskich wyborów połówkowych chatboty mylą fakty o głosowaniu i polecają kandydatów. Nikt nie uczy, jak to rozpoznać.

Oto nawyk, który zakradł się niepostrzeżenie. Miliony Amerykanów zwracają się dziś do chatbotów po informacje o wyborach. NPR opisuje, że boty mylą fakty o głosowaniu, a przy okazji polecają kandydatów. I to dzień przed amerykańskimi wyborami połówkowymi.

Pomyśl, czym chatbot jest dla wielu ludzi. Nie stroną z wynikami, gdzie dziesięć linków trzeba porównać. Tylko jednym spokojnym, pewnym siebie głosem, który odpowiada pełnymi zdaniami i nie powie "nie wiem" tak, jak zrobiłby to człowiek.

Czy to kwestia leniwych użytkowników?

Łatwo powiedzieć, że ludzie są leniwi i dają się nabrać. Ale czy naprawdę o to chodzi? A może o to, że produkt brzmi pewnie nawet wtedy, kiedy się myli?

Chodzi o to drugie. Błędna godzina zamknięcia lokali wyborczych podana pewnym tonem szkodzi tak, jak nie szkodzi bałagan w wynikach wyszukiwania. Wada siedzi w tym, jak produkt mówi, a nie w człowieku, który pyta.

I tego nikt nie uczy. W szkole uczysz się sprawdzać źródło, pytać, kto to napisał i po co. Prawie nikt nie uczy się sprawdzać odpowiedzi chatbota ani zauważać, że popycha w stronę konkretnego kandydata, brzmiąc przy tym zupełnie neutralnie.

Wielu rzeczy nadal nie wiemy, choćby tego, jak bardzo takie odpowiedzi zmieniają decyzje wyborców. Możemy jednak powiedzieć rzecz prostą: narzędzie, które miliony ludzi traktują jak neutralnego eksperta, powinno być rozliczane jak ekspert, zwłaszcza w jedynym temacie, w którym błędu nie da się cofnąć po dniu wyborów.