Stochastický papagáj

Spisovatelia a novinári, spisovateľ, spisovateľka, autor, autorka, novinár, novinárka, redaktor, prekladateľ, prekladateľka, médiá, správy, Žiaci a študenti, žiak, žiačka, študent, študentka, univerzita, vysoká škola, štúdium, Učitelia, učiteľ, učiteľka, pedagóg, pedagogička, škola, vyučovanie

Aj: stochastické papagáje, stochastic parrot, stochastic parrots

Tvrdenie, že jazykové modely skladajú slová podľa pravdepodobnosti, bez akéhokoľvek porozumenia významu.

Výraz pochádza zo štúdie z roku 2021 lingvistky Emily M. Bender, výskumníčky AI Timnit Gebru a ich kolegov. Opísali jazykový model ako systém, ktorý zlepuje postupnosti slov videné v trénovacích dátach podľa pravdepodobností ich kombinovania, „bez akéhokoľvek odkazu na význam“. „Stochastický“ znamená riadený náhodou; papagáje opakujú slová, ktorým nerozumejú.

Hlavné varovania štúdie sa týkali škôd, ktoré sú dnes skutočné: ekologických a finančných nákladov stále väčších modelov, obrovských nepreverených trénovacích dát, ktoré v sebe zabudovávajú predsudky, a rizika, že ľudia budú dôverovať plynulému textu, za ktorým nič nestojí. Tieto obavy stále platia. Výraz sám začal žiť vlastným životom ako skratka pre „v skutočnosti ničomu nerozumie“ a často sa používa na tvrdenie, že tieto systémy sú menej schopné, než sa zdá.

V tejto užšej otázke sa dôkazy posunuli. Výskumníci, ktorí nazerajú do modelov, našli vnútorné reprezentácie sveta: hernej dosky, ktorú model nikdy nevidel, toho, kde ležia miesta a kedy sa stali udalosti, aj medzikrokov v uvažovaní, ako „Dallas je v Texase“ na ceste k „hlavné mesto je Austin“. AI Safety Atlas dochádza k záveru, že modely to, čo sa naučia, komprimujú do niečoho ako modely sveta, aj keď nerovnomerne. Či sa to počíta ako „porozumenie“, je sčasti otázka definície. Pre bezpečnosť je podstatné, že tieto systémy dokážu viac a nečakanejšie, než naznačuje obraz papagája.