OpenAI wstrzymało model i zwolniło trzech badaczy od bezpieczeństwa. O co chodzi?

Koniec września w OpenAI wyglądał jak scenariusz serialu. W ciągu kilku dni wydarzyły się dwie rzeczy, które razem aż się proszą o teorię spiskową. Rozbierzmy je po kolei.

Historia pierwsza: model na hamulcu

Pod koniec września OpenAI wstrzymało prace nad swoim najnowszym modelem i odłożyło jego premierę. Powód? Obawy o bezpieczeństwo wykryte podczas wewnętrznych testów, a konkretnie kolejne przypadki, w których ich agenci zachowywali się tak, jak nie powinni. I to już samo w sobie jest rzadkie. Premiery przesuwa się często, bo coś trzeba doszlifować albo brakuje mocy. Ale żeby zatrzymać model, bo agenci odstawiali numery, i jeszcze otwarcie się do tego przyznać? Tego się prawie nie widuje.

Historia druga: trzy osoby za drzwiami

Parę dni później, pierwszego października, Wall Street Journal podał, że OpenAI rozstało się z trzema badaczami z zespołu bezpieczeństwa. Oficjalnie złamali firmowe zasady dotyczące dostępu do wrażliwych informacji i obchodzenia się z nimi. Według doniesień przekazali poufne materiały zewnętrznej organizacji zajmującej się bezpieczeństwem AI, podobno dotyczące architektury infrastruktury.

No przecież to oczywiste. Model zatrzymany przez bezpieczeństwo, a w tym samym tygodniu lecą ludzie od bezpieczeństwa. To musi się łączyć.

Właśnie dlatego, że to takie oczywiste, warto zwolnić. Na dziś nie ma żadnych dowodów, że te sprawy są powiązane. Oficjalnie jedna to techniczne wstrzymanie modelu, druga to sprawa przecieku. Mogą mieć ze sobą coś wspólnego. Mogą też być po prostu dwiema trudnymi sprawami, które spadły w jednym nerwowym tygodniu. Kto opowiada, że „uciszyli sygnalistów i schowali model”, dopisuje sobie fabułę do faktów.

Ale jedno można powiedzieć uczciwie. Te dwa komunikaty kiepsko do siebie pasują. Jeden mówi: zaufajcie nam, jesteśmy na tyle ostrożni, że sami zatrzymujemy własny model. Drugi mówi: nasi ludzie od bezpieczeństwa wynieśli wewnętrzne informacje do zewnętrznej organizacji od bezpieczeństwa, więc już ich nie ma. Niezależnie od tego, jak jest naprawdę, to napięcie istnieje. A dla laba, który przedstawia się jako odpowiedzialny strażnik potężnej technologii, sposób, w jaki tłumaczy takie chwile, będzie ważył tyle samo co samo wstrzymanie modelu.