Stohastička papiga

Pisci i novinari, pisac, spisateljica, autor, autorica, novinar, novinarka, urednik, prevoditelj, prevoditeljica, mediji, vijesti, Učenici i studenti, učenik, učenica, student, studentica, sveučilište, fakultet, studij, Učitelji, učitelj, učiteljica, nastavnik, nastavnica, profesor, profesorica, škola, obrazovanje

Također: stohastičke papige, stochastic parrot, stochastic parrots

Tvrdnja da jezični modeli nižu riječi prema vjerojatnosti, bez ikakvog razumijevanja značenja.

Izraz potječe iz rada iz 2021. lingvistice Emily M. Bender, istraživačice UI-ja Timnit Gebru i suradnika. Jezični model opisali su kao sustav koji spaja nizove riječi viđene u podacima za treniranje, prema vjerojatnostima njihova kombiniranja, „bez ikakvog upućivanja na značenje”. „Stohastički” znači vođen slučajem; papige ponavljaju riječi koje ne razumiju.

Glavna upozorenja rada odnosila su se na štete koje su danas stvarne: ekološke i financijske troškove sve većih modela, goleme neprovjerene podatke za treniranje koji ugrađuju predrasude te rizik da ljudi vjeruju tečnom tekstu iza kojeg ništa ne stoji. Te zabrinutosti i dalje vrijede. Sam izraz počeo je živjeti vlastitim životom kao skraćenica za „zapravo ništa ne razumije” i često se koristi za tvrdnju da su ti sustavi manje sposobni nego što se čini.

Kad je riječ o tom užem pitanju, dokazi su se pomaknuli. Istraživači koji zaviruju u modele pronašli su unutarnje prikaze svijeta: ploče za igru koju model nikad nije vidio, toga gdje se nalaze mjesta i kad su se dogodili događaji te međukoraka u zaključivanju, poput „Dallas je u Teksasu” na putu do „glavni grad je Austin”. AI Safety Atlas zaključuje da modeli ono što nauče sažimaju u nešto nalik modelima svijeta, iako neujednačeno. Računa li se to kao „razumijevanje”, djelomično je pitanje definicije. Za sigurnost je važno to što ti sustavi mogu više, i neočekivanije, nego što sugerira slika papige.