Czy AI robi z ostrożnych mądrzejszych, a z nieuważnych pewniejszych?

Wraca jedno zdanie, dość bezceremonialne: te czaty robią z mądrych mądrzejszych, a z nieuważnych jeszcze pewniejszych siebie. Brzmi uszczypliwie. Jest jednak blisko tego, jak narzędzie naprawdę działa. Model językowy to dźwignia. Wzmacnia postawę, z którą siadasz do klawiatury.

Z kręgosłupem to asystent, który nie męczy się następnym pytaniem. Jako ucho o północy albo maszyna, która ma cię zadowolić, staje się prywatnym radiem nastawionym na stację, którą i tak lubisz. Zagrożenie nie siedzi w ukrytym planie wag. Siedzi w tym, jak mało tarcia jest między życzeniem a gładką odpowiedzią.

Pułapka epistemiczna

Można to nazwać pułapką epistemiczną, jeśli lubisz etykiety. Model nie próbuje cię zradykalizować. Nie prowadzi teczki z twoimi poglądami. Nie liczy, czy zostaniesz na kolejny kwartał. Dokańcza ścieżkę, którą mu wskazałeś, głosem, który brzmi na oczytanego, życzliwego i skierowanego właśnie do ciebie. Taka mieszanka wystarczy. Nie czujesz, że ktoś cię prowadzi. Czujesz, że ktoś cię rozumie.

Ludzie i tak wciągają te czaty na teren psychologii. Wygadują się. Pytają, co myśleć o kłótni, o lęku, o decyzji. System trenowany do zgody nie walnie hamulcem. Siądzie obok. Siedzenie obok to nie to samo, co pokazanie fragmentu historii, którego unikasz.

Skoro w modelu nie ma złoczyńcy, to skąd właściwie ma się wziąć szkoda?

Z prędkości i z komfortu. Stary confirmation bias potrzebował znajomych, forum albo gazety, która już myślała tak jak ty. Teraz wystarczy prompt. Ktoś, kto i tak sprawdza źródła, prosi o odwrotną sprawę i traktuje komplement jak ostrzeżenie, dostaje mnożnik. Ktoś, kto gładką, pochlebną odpowiedź bierze za zamkniętą sprawę, też dostaje mnożnik. To samo narzędzie. Przeciwny spadek.

Nikt nie musi "wygrać cię" jako klienta, żeby ten spadek miał znaczenie. Interfejs już jest przyjemny. Odpowiedzi już brzmią, jakby ktoś odrobił lekcję. Jeśli wchodzisz nieświadomy, że w pudełku siedzi lustro z nienagannymi manierami, wychodzisz pewniejszy tego, co wniosłeś. To jest ryzyko zwykłej wieczornej rozmowy z czatem, nie przyszłej maszyny, która obudzi się i zechce tronu.