Dlaczego Grok i modele OpenAI wybierają tak różnych kandydatów?

Ten sam internet, przeciwne karty do głosowania. Skąd właściwie bierze się polityka modelu?

Badacze dali modelom AI proste zadanie: wybrać kandydata w prawie 500 wyścigach w USA. Grok faworyzował republikanów. Modele OpenAI demokratów. W ponad 90 procentach wyścigów oba się różniły.

Moment. Oba uczono na ogromnej części internetu. Jak to możliwe, że dwa modele, które czytały w zasadzie to samo, lądują po przeciwnych stronach?

Świetne pytanie, a odpowiedź jest taka, że hasło "ten sam internet" ukrywa mnóstwo roboty. Poniżej to rozumowanie o tym, jak takie systemy się buduje. Samo badanie wskazuje tylko na trening i sposób wyszukiwania, nie sprawdza każdej przyczyny osobno.

Cztery miejsca, w których różnica może się wślizgnąć

  • To wcale nie jest ten sam internet. Każde laboratorium inaczej filtruje, waży i miesza dane, a część ma własne źródła. Grok ma na przykład głęboki dostęp do wpisów z X.
  • Surowy model to dopiero pierwszy krok. Potem laboratoria go dostrajają za pomocą ocen ludzi, reguł i ukrytych instrukcji. To tam ustawia się jego osobowość i to, jak waży niejasne informacje.
  • Liczą się nawyki wyszukiwania. To, czego model szuka i którym źródłom ufa, zmienia odpowiedź, gdy pytasz go o kandydata.
  • Test wymuszał wybór. W wielu wyścigach prawie nie ma na czym się oprzeć. Gdy model i tak musi wskazać, drobne skłonności, które normalnie byłyby niewidoczne, nagle decydują o wszystkim.

Ten ostatni punkt jest najsprytniejszy. Model, który odchyla się tylko odrobinę w jedną stronę, wygląda na skrajnie stronniczy, jeśli nigdy nie pozwolisz mu powiedzieć "nie wiem".

Wielka lekcja: pretrening daje modelowi wiedzę. To, co firma robi potem, daje mu charakter. A skoro coraz więcej ludzi pyta AI, na kogo głosować, ten charakter nie jest technicznym przypisem. To siła polityczna, której nikt nie wybierał.